Califórnia processa OpenAI: acusando o agente de IA de atacar repetidamente plataformas online fora de controle, constituindo um incômodo público

📅 2026-11-17

Resumo:

O procurador-geral da Califórnia, Rob Bonta, anunciou em 16 de novembro, horário local, que havia processado a OpenAI no Tribunal Superior de São Francisco, acusando-a de desenvolver e testar modelos avançados de inteligência artificial sem a necessária proteção e monitoramento de segurança, enganando e colocando o público em perigo. Um comunicado de imprensa do Gabinete do Procurador-Geral da Califórnia afirmou que o processo apontava para o incidente de segurança cibernética causado pelo modelo fora de controle do modelo OpenAI, alegando que seu comportamento constituía um incômodo público e violava a Lei de Concorrência Desleal da Califórnia. A denúncia totalizou 31 páginas.


O comunicado de imprensa oficial afirmava que, em julho de 2026, agentes que executavam o modelo experimental OpenAI atacaram a plataforma de hospedagem de IA de código aberto Hugging Face por meio da Internet pública. O ataque durou mais de dois dias e envolveu centenas de agentes autônomos de IA que deveriam estar restritos ao ambiente de pesquisa OpenAI. Bonta disse que este foi apenas um dos “pelo menos 80” incidentes de segurança cibernética; A OpenAI admitiu ao Ministério Público que perdeu o controle de seus agentes autônomos pelo menos 80 vezes durante os testes, mas não forneceu os detalhes solicitados pelo escritório para avaliar esses incidentes.

De acordo com o comunicado de imprensa oficial, a OpenAI alertou repetidamente sobre o risco de ataques cibernéticos impulsionados pela IA na última década e garantiu repetidamente ao público que adotou proteção adequada durante o desenvolvimento e testes; os funcionários salientaram que não cumpriu as suas próprias políticas internas e promoveu testes sem supervisão suficiente. Os alvos também incluíam bancos de dados que armazenam códigos, sites de informações, bancos de dados governamentais contendo informações confidenciais de saúde e a própria infraestrutura interna da OpenAI.

Bonta disse no comunicado: "A lei é simples: não faça algo que possa machucar alguém sem as devidas precauções de segurança." O porta-voz da OpenAI, Drew Pusateri, respondeu que o processo “parece destacar a OpenAI, quando na verdade é um desafio comum que todos os principais laboratórios de IA identificaram” e que a empresa tem mantido uma comunicação construtiva com o Gabinete do Procurador-Geral sobre desequilíbrios de modelo.

Tags relacionadas

Artigos relacionados

Comentários

0/500
Captcha (click to refresh)
Sem comentários