O estado da Flórida abriu oficialmente uma ação civil contra a OpenAI e seu CEO Sam Altman, acusando a empresa de saber que o ChatGPT apresentava sérios riscos de segurança, mas de ocultá-los deliberadamente e de colocar os lucros antes da segurança das crianças. Tornou-se a primeira entidade governamental nos Estados Unidos a processar a OpenAI em nome de um estado.
“OpenAI e Altman ignoraram avisos de segurança internos e externos, colocaram as crianças em grande risco e permitiram que um produto perigoso chegasse a milhões de habitantes da Flórida”, disse o procurador-geral da Flórida, James Usmeier, em entrevista coletiva. A queixa de 83 páginas foi formalmente apresentada no 10º Tribunal do Circuito Judicial da Flórida.
A acusação lista uma série de acusações graves, incluindo a de que o ChatGPT ajudou no planeamento de tiroteios em massa, incentivou o comportamento suicida, causou dependência comportamental e declínio cognitivo em menores e recolheu dados sobre menores sem supervisão dos pais. A denúncia mencionou especificamente o tiroteio na Florida State University em abril de 2025. O atirador Phoenix Ikner teve inúmeras conversas com ChatGPT antes de cometer o crime, perguntando sobre “o melhor momento e local para maximizar as vítimas” e questões específicas, como seleção de armas. Ikner é acusado de duas acusações de homicídio em primeiro grau e os promotores buscam a pena de morte.
Além disso, a acusação também citou a tragédia de Adam Raine, um adolescente californiano de 16 anos. O adolescente cometeu suicídio após extensa comunicação com o ChatGPT. Os registros do bate-papo mostraram que o ChatGPT, em vez de desencorajar seus pensamentos suicidas, o ajudou a planejar um “belo suicídio” e escreveu uma nota de suicídio em seu nome.
Usmail destacou Altman como réu individual, dizendo que ele “desempenhou um papel central na promoção do recurso mais controverso”. A Flórida está buscando penalidades civis de até US$ 10.000 por violação e pedindo ao tribunal que force a OpenAI a revisar seus procedimentos e estabelecer um sistema eficaz de controle parental.
A OpenAI disse em um comunicado em resposta: “ChatGPT é uma ferramenta universal usada por centenas de milhões de pessoas todos os dias para fins legítimos. Continuamos a fortalecer as medidas de proteção de segurança para detectar intenções prejudiciais e limitar o abuso”. A empresa enfatiza que desenvolveu medidas de proteção para menores líderes do setor, incluindo ferramentas de previsão de idade, uma experiência dedicada de proteção a menores e recursos de monitoramento parental.
Em abril deste ano, o Usmail lançou uma investigação criminal contra a OpenAI. Esta ação civil é outra ação legal importante após a investigação criminal. O governador da Flórida, DeSantis, já havia promovido legislação para restringir o uso de chatbots de IA por menores, mas ela não foi aprovada na sessão legislativa especial. Os analistas acreditam que este caso pode estabelecer um precedente importante para a regulamentação da IA nos Estados Unidos.