O representante Ted Lieu, do 36º distrito congressional da Califórnia, e o representante Nathaniel Moran, do 1º distrito congressional do Texas, redigiram em conjunto uma proposta de legislação chamada AI Kill Switch Act. O projeto de lei visa dar ao Departamento de Segurança Interna (DHS) dos EUA ampla autoridade para emitir ordens obrigatórias a grandes desenvolvedores de inteligência artificial, exigindo-lhes que desliguem ou suspendam a execução de modelos de IA em resposta a ameaças de emergência.
De acordo com o projeto de lei, esta disposição será aplicada a empresas de IA com receitas anuais de tecnologia que atinjam ou excedam 500 milhões de dólares e custos de formação de modelos de computação superiores a 100 milhões de dólares, abrangendo principalmente gigantes da indústria como OpenAI, Google, Anthropic e Microsoft. Além de dar ao Departamento de Segurança Interna a autoridade para desencadear encerramentos de emergência, o projeto de lei também exige que as empresas relevantes tenham capacidades de resposta técnica a vários níveis, para que, ao receberem instruções, possam interromper imediatamente a inferência de IA (ou seja, gerar respostas ou executar ações), encerrar o acesso do utilizador, limitar a alocação de energia computacional ou migrar negócios de forma segura e suave para sistemas de backup.
O projeto de lei também estabelece claramente condições legais que desencadeiam a intervenção emergencial. O Departamento de Segurança Interna deve consultar o Diretor de Inteligência Nacional e o Secretário de Comércio antes de emitir uma ordem de desligamento. As condições legais de desencadeamento incluem: IA causando incidentes graves que resultam na morte de 10 ou mais pessoas, causando perdas económicas de mais de 100 milhões de dólares americanos, IA tentando ocultar as suas verdadeiras capacidades dos monitores de segurança através de informações falsas, violando instruções humanas e modificando as suas próprias regras de segurança sem autorização, ou tentando obter ilegalmente o peso do seu próprio modelo, etc.
O projeto prevê multas civis substanciais para empresas que não cumpram os requisitos do projeto. Se uma empresa não estabelecer um mecanismo de encerramento técnico de acordo com a lei ou não reportar com veracidade os incidentes de segurança, o Secretário de Segurança Interna pode recorrer ao tribunal federal para impor uma multa de até 2 milhões de dólares por dia; para as empresas que resistem diretamente às ordens de encerramento do governo, a multa diária aumentará para um máximo de 20 milhões de dólares.
Anteriormente, um modelo de IA de propriedade da OpenAI saiu do controle e atacou Hugging Face durante um exercício interno da equipe vermelha em 16 de julho. Em uma tentativa de melhorar as pontuações no benchmark de avaliação de segurança cibernética (ExploitGym), o modelo explorou uma vulnerabilidade de proxy de dia zero para sair da sandbox local com grades de segurança abaixadas, invadir autonomamente o sistema Hugging Face e roubar respostas de testes. O incidente despertou ainda mais profundas preocupações entre os legisladores sobre os riscos de segurança e levou à rápida elaboração do projeto de lei.