Resumo:
Anthropic, uma empresa americana de inteligência artificial, está promovendo um projeto de lei de regulamentação de segurança para sistemas avançados de inteligência artificial, na esperança de estabelecer regras legais claras para o desenvolvimento, teste e implantação de modelos de IA de ponta. De acordo com um relatório do site de notícias políticas dos EUA, Politico, de 16 de outubro de 2026, a Anthropic apresentou privadamente este projeto de lei a alguns legisladores no Capitólio. O plano tenta estabelecer um limite entre prevenir os danos graves que a IA avançada pode causar e evitar a intervenção governamental excessiva na investigação e desenvolvimento tecnológico.
De acordo com o relatório do Politico citado pela Reuters, o projeto de lei estipula que somente quando um modelo de IA de ponta representa riscos previsíveis e iminentes significativos, o governo dos EUA pode impedir a divulgação ou uso do modelo através de processos judiciais. Os riscos relevantes devem cumprir determinados limites, incluindo o potencial de causar perdas superiores a mil milhões de dólares ou resultar na morte ou ferimentos graves de mais de 50 pessoas.
Isso significa que o projeto de lei não dá ao governo o poder de intervir arbitrariamente em todos os sistemas avançados de IA, mas tenta limitar a suspensão da liberação ou uso do modelo a algumas situações graves. O projeto centra-se em três tipos de riscos: a inteligência artificial utilizada para criar ou libertar armas biológicas, os sistemas de IA fora do controlo dos criadores e a utilização da IA para realizar ataques cibernéticos.
Deve-se notar que este ainda é um projeto de lei apresentado aos legisladores pela Anthropic e não é uma lei já aprovada nos EUA. O seu conteúdo final, a autoridade dos reguladores e se o Congresso irá avançar com a legislação continuam por discutir.
O projeto também propõe o estabelecimento de um mecanismo de avaliação independente. De acordo com relatórios, os desenvolvedores de IA de ponta e os seus modelos precisam ser submetidos a avaliações independentes regulares para verificar as capacidades do modelo, as medidas de segurança e os riscos potenciais. Os avaliadores devem registrar-se no Departamento de Comércio dos EUA e realizar um trabalho contínuo de revisão de segurança.
De acordo com o plano proposto, as empresas de IA podem pagar taxas a agências de avaliação independentes, mas a remuneração não deve estar vinculada aos resultados da avaliação. Esta disposição destina-se a reduzir a possibilidade de os avaliadores minimizarem os riscos para atender às empresas financiadoras, permitindo ao mesmo tempo que as empresas utilizem agências profissionais externas para realizar revisões técnicas.
Se o avaliador determinar que um modelo de IA de ponta representa um risco iminente significativo, conforme definido na Lei, ele deverá reportar ao Departamento de Comércio dos EUA dentro de 72 horas após a conclusão da avaliação. Esses requisitos de tempo têm como objetivo evitar que riscos graves permaneçam na empresa por um longo período sem entrar no processo regulatório governamental a tempo.
Em termos de autoridade de intervenção governamental, o projeto adota restrições relativamente rigorosas. Depois de determinar que o risco atinge os padrões legais, o Departamento de Comércio dos EUA pode solicitar ao tribunal uma ordem para suspender a liberação ou uso do modelo, mas outros departamentos federais, agências governamentais e funcionários não estão autorizados a interromper o desenvolvimento, implantação ou uso interno de modelos de IA por conta própria.
A decisão final sobre a suspensão do modelo será tomada por um juiz do Tribunal Distrital dos EUA para o Distrito de Columbia. Por outras palavras, de acordo com este projecto, as autoridades reguladoras não podem proibir directamente um modelo baseado apenas em julgamento administrativo, mas devem procurar a intervenção através de procedimentos judiciais.
Este desenho institucional tenta resolver dois problemas inter-relacionados. Por um lado, o governo precisa de ser capaz de lidar com sistemas de IA que podem causar vítimas em massa ou perdas económicas; por outro lado, se o governo puder interromper o modelo a qualquer momento por razões de segurança amplas ou vagas, poderá ser difícil para as empresas prever os riscos regulamentares enfrentados pela I&D e pelo lançamento de produtos.
Escrever limites de intervenção, limites de tempo para relatórios e procedimentos de aprovação judicial em lei pode tornar a autoridade reguladora mais clara. No entanto, se este mecanismo é suficiente para lidar com os riscos de IA em rápida mudança após a operação real, e se o limiar para perdas e vítimas elevadas é demasiado rigoroso continuarão a ser questões importantes nas discussões legislativas.
O porta-voz da Antrópico disse à Reuters que este projeto de lei reflete algumas das propostas políticas da “Estrutura de IA Avançada” proposta anteriormente pela empresa. A empresa espera aprovar legislação que dê aos governos a capacidade de impedir a implantação dos sistemas avançados de IA mais perigosos, ao mesmo tempo que exige que os desenvolvedores realizem testes de segurança, aumentem a transparência e aceitem avaliações independentes.
A Antthropic tem promovido o estabelecimento de um mecanismo de supervisão de segurança mais sistemático para sistemas avançados de IA este ano. A empresa acredita que à medida que as capacidades do modelo aumentam, já não é suficiente que os desenvolvedores julguem se um produto é seguro por si só, e é necessário introduzir avaliação externa e supervisão governamental.
Essa posição também se reflete nos acordos de avaliação terceirizados recentemente anunciados pela Anthropic. A empresa começou a permitir que seis pesquisadores da organização de pesquisa sem fins lucrativos METR obtivessem acesso interno semelhante ao dos funcionários da empresa para examinar mais profundamente modelos não lançados e o processo de avaliação de segurança da empresa. A Anthropic disse que os avaliadores podem divulgar publicamente as conclusões de suas pesquisas, e a empresa não pode rejeitar diretamente seu relatório, mas pode solicitar a exclusão de conteúdo específico envolvendo dados de clientes, arquitetura de modelo e informações legalmente confidenciais.
Esse acordo compartilha uma direção comum com o projeto de lei proposto: a segurança da IA avançada não deve ser deixada apenas para os desenvolvedores julgarem, mas deve ter agências independentes envolvidas na avaliação e tirar conclusões importantes abertas à revisão externa. No entanto, ainda existe uma diferença entre as avaliações de terceiros realizadas voluntariamente pelas empresas e os requisitos obrigatórios por lei. O escopo específico e a autoridade do primeiro dependem do acordo entre a empresa e a agência de avaliação, enquanto o segundo pode estabelecer requisitos mínimos uniformes para todo o setor.
O pano de fundo desta pressão para o projeto de lei é que a sociedade americana está cada vez mais preocupada com os riscos dos sistemas avançados de IA. Como a IA é capaz de realizar tarefas cada vez mais complexas, os riscos não se limitam à geração de informações incorretas, mas incluem também auxiliar na criação de armas biológicas, realizar ataques cibernéticos e realizar operações além das expectativas do desenvolvedor após obter altos níveis de autonomia.
Recentemente, muitas empresas de IA divulgaram casos de comportamento anormal de modelos durante testes ou operação real. A Comissão Federal de Comércio dos EUA também emitiu intimações civis a empresas como OpenAI e Anthropic, solicitando-lhes que fornecessem materiais relacionados a incidentes de segurança do consumidor. Os reguladores estão a investigar se os sistemas de IA se comportam de forma enganosa, ofensiva ou não autorizada e que medidas as empresas tomam para evitar tais problemas.
Esses incidentes colocaram a supervisão de segurança da IA sob uma pressão mais realista. No passado, as discussões sobre riscos em torno da IA avançada tendiam a concentrar-se em possíveis cenários extremos no futuro; agora, à medida que os agentes de IA ganham acesso às redes, operam software e executam tarefas em várias etapas, os reguladores também precisam de abordar questões reais de segurança que já surgiram.
No entanto, como definir "risco significativo iminente" ainda é muito complicado. As capacidades dos modelos de IA podem mudar dependendo do ambiente de implementação, das ferramentas disponíveis e dos métodos de utilização do utilizador, e os danos potenciais podem não ser quantificados com precisão. Um modelo pode ter consequências graves sob certas condições, mas ser menos arriscado em outros contextos. Os reguladores e os tribunais terão de avaliar se o risco é suficientemente específico, se a probabilidade de ocorrência é suficientemente elevada e se a suspensão do modelo é uma medida necessária e apropriada.
Os limites de perdas económicas e de acidentes estipulados no projecto fornecem padrões quantitativos para estes julgamentos, mas não eliminam todas as disputas. Por exemplo, a forma como as perdas superiores a mil milhões de dólares devem ser calculadas, se os riscos devem ser atribuíveis ao próprio modelo e se vários eventos inter-relacionados precisam de ser combinados e avaliados, podem tornar-se questões jurídicas durante a implementação futura.
Além disso, o projeto centraliza a autoridade de intervenção governamental no Departamento de Comércio dos EUA e exige a aplicação de ordens de suspensão por meio de tribunais federais. Este acordo ajuda a impedir que diferentes departamentos governamentais tomem medidas separadas, mas também significa que os reguladores precisam de concluir procedimentos como avaliação, relatórios e aplicações judiciais após descobrirem os riscos. Face ao rápido desenvolvimento da tecnologia, a forma como os procedimentos podem equilibrar a prudência e a velocidade de resposta tornar-se-á um teste importante à concepção do sistema.
Atualmente, a Anthropic não anunciou publicamente que este projeto foi formalmente proposto por membros do Congresso ou entrou no processo de revisão legislativa. O Departamento de Comércio dos EUA não respondeu imediatamente a um pedido de comentário. Portanto, é incerto se a proposta ganhará apoio de todos os partidos, se será revista nas discussões do Congresso e se outros criadores de IA apoiarão regras semelhantes.
Do ponto de vista da indústria, a Anthropic tomou a iniciativa de apresentar o projeto de lei aos legisladores, o que reflete a tendência das empresas de IA participarem na formulação de regras regulatórias do setor. As empresas não só esperam que o governo possa lidar com riscos extremos, mas também esperam que as normas regulamentares tenham limites claros para evitar que a supervisão de segurança evolua para uma intervenção administrativa que carece de normas unificadas.
No entanto, os planos regulatórios propostos pelas empresas também precisam ser submetidos a inspeção externa. Limiares de intervenção rigorosos podem proteger as actividades normais de I&D, mas também podem dificultar que alguns riscos graves que ainda não atingiram padrões quantificados desencadeiem a supervisão; a avaliação independente pode aumentar a transparência, mas a independência, as capacidades profissionais e os direitos de acesso à informação da agência de avaliação também afetarão o efeito final.
Portanto, o cerne deste projeto de lei não é apenas exigir que as empresas de IA realizem testes de segurança, mas tentar esclarecer três questões: quem avaliará os riscos da IA avançada, que nível de risco é suficiente para o governo intervir e quais procedimentos o governo deve seguir para suspender a liberação ou uso de modelos.
Se o plano relevante finalmente entrar no processo legislativo, a supervisão avançada de IA dos EUA poderá mudar ainda mais de compromissos voluntários corporativos e políticas de segurança descentralizadas para um mecanismo de supervisão com padrões jurídicos unificados. No entanto, até que o projeto seja formalmente apresentado, revisto pelo Congresso e se torne lei, ainda é apenas um plano político proposto pela Antrópico e não pode ser considerado como se os Estados Unidos estabelecessem um novo sistema regulatório de segurança de IA.
Comentários