Resumo:
A empresa de inteligência artificial Anthropic apresentou recentemente, de forma privada, um projeto de lei de segurança da inteligência artificial aos legisladores dos EUA, na tentativa de estabelecer uma estrutura regulatória em nível federal para modelos avançados de IA. De acordo com a proposta, se for determinado que um modelo de IA tem um risco catastrófico previsível e iminente, que pode causar mais de 50 mortes ou ferimentos graves, ou causar mais de mil milhões de dólares em danos materiais, a sua divulgação e utilização podem ser bloqueadas.
De acordo com as informações divulgadas, o projeto de lei não visa todas as aplicações de inteligência artificial, mas foca nos “modelos de ponta” mais avançados. A proposta estabelece um limiar claro para a intervenção, e apenas em situações de risco extremo os reguladores podem iniciar processos judiciais para restringir a implementação do modelo.
Os riscos listados no rascunho concentram-se principalmente em três áreas: assistência na criação ou liberação de armas biológicas, modelos que escapam ao controle dos desenvolvedores e ataques cibernéticos em grande escala participados ou promovidos por modelos. Somente quando surgirem riscos destes cenários específicos é que os mecanismos regulatórios serão acionados.
Vale ressaltar que os padrões de risco propostos pela Anthropic são semelhantes ao Projeto de Lei 53 do Senado aprovado anteriormente pela Califórnia, EUA. Este último também define situações que podem causar um grande número de vítimas ou enormes perdas económicas como “riscos catastróficos”.
Quanto ao mecanismo de implementação específico, o projeto de lei propõe estabelecer um sistema de avaliadores independentes registrado e gerenciado pelo Departamento de Comércio dos EUA. Estas agências de avaliação ou especialistas são responsáveis por realizar avaliações de segurança de modelos de IA de ponta e das suas empresas de desenvolvimento, e determinar se os modelos relevantes representam riscos significativos.
De acordo com a minuta do acordo, mesmo que a agência de avaliação seja paga pela empresa de IA, esta parceria ainda é permitida desde que o pagamento não esteja diretamente relacionado aos resultados da avaliação. No entanto, este acordo também causou dúvidas entre alguns membros da indústria, que acreditam que a independência e a objectividade da agência de avaliação podem enfrentar desafios.
Se os avaliadores determinarem que um modelo apresenta um risco catastrófico iminente, eles deverão reportar isso ao Departamento de Comércio dos EUA dentro de 72 horas após a conclusão da avaliação. O Departamento de Comércio poderia então solicitar a um tribunal federal em Washington, D.C., que solicitasse a um juiz que concedesse uma moratória sobre a liberação ou implantação do modelo.
Ao contrário de alguns planos regulatórios, a proposta da Antrópica enfatiza especificamente que as agências administrativas não têm o poder de suspender modelos unilateralmente. De acordo com o projeto preliminar, apenas um juiz federal poderia, em última análise, emitir uma moratória. Por outras palavras, nenhum departamento governamental pode proibir diretamente um modelo de IA de ficar online ou de o utilizar, contornando os procedimentos judiciais.
A Anthropic não detalhou publicamente a versão final do projeto de lei, mas um porta-voz da empresa confirmou que o projeto existe e disse que suas ideias centrais derivam da “Estrutura de Inteligência Artificial Avançada” proposta no início deste ano. A estrutura defende testes mais rigorosos, maior transparência e a introdução de mecanismos independentes de avaliação de terceiros para os sistemas de IA mais poderosos.
À medida que as capacidades de inteligência artificial continuam a melhorar, o debate em torno das questões de segurança da IA entre a indústria tecnológica e as agências reguladoras dos EUA também está a aquecer. Os defensores acreditam que o plano proposto pela Anthropic fornece procedimentos claros e base jurídica para a intervenção governamental em IA de alto risco; enquanto os críticos acreditam que o limite excessivo de intervenção e a confiança nos mecanismos de autoavaliação da indústria podem dificultar a resposta plena a riscos mais complexos da inteligência artificial no futuro.
Atualmente, esta proposta ainda está em fase de discussão, ainda não foi formalmente submetida à apreciação do Congresso dos EUA e não tem efeito jurídico. No entanto, como um dos primeiros planos regulatórios federais propostos proativamente por grandes empresas de IA, espera-se que seu conteúdo tenha um impacto importante nas discussões futuras sobre a legislação de inteligência artificial nos Estados Unidos.
Comentários