A área de Palisades, em Los Angeles, foi atingida por um forte incêndio florestal no dia de Ano Novo de 2025, tornando-se um dos incêndios florestais mais mortíferos da história da cidade. As autoridades acusaram Jonathan Rinderknecht de incêndio criminoso. Durante o julgamento, eles obtiveram os dados de localização de seu iPhone, vídeos de vigilância e depoimentos de testemunhas, na tentativa de provar que ele estava presente perto do incêndio e participou do incêndio criminoso. Junto com as provas tradicionais, foram apresentados ao tribunal registros de seus chats e geração de imagens por meio do ChatGPT, o que ainda é raro em processos criminais.
De acordo com os promotores no julgamento, Lindknecht pediu ao ChatGPT para gerar imagens relacionadas a “fogo” e reclamou ao chatbot “por que ele estava sempre tão bravo”. Além disso, ele discursou na conversa, acusando pessoas ricas de “arruinar o mundo”, e notou-se que perguntou ao ChatGPT se um incêndio foi provocado pelo cigarro de alguém, se essa pessoa seria responsabilizada. O promotor tentou usar isso para moldar o estado mental e a motivação do réu, o que implica que ele tinha um foco anormal nas chamas e tinha um forte ressentimento em relação à injustiça social.
No entanto, este argumento, construído em torno dos registos de chat do ChatGPT, não convenceu o júri. O júri teria votado 10-2 a favor da defesa na votação final, deixando o veredicto num impasse. No sistema de justiça criminal dos EUA, os casos importantes exigem frequentemente que os júris cheguem a um veredicto unânime ou quase unânime, e um impasse significa a incapacidade de chegar a um veredicto claro de culpa ou inocência. O juiz então declarou que o júri estava "dividido", considerando-o um "impasse do júri" de acordo com a lei e declarando a anulação do julgamento.
Uma jurada disse ao canal local CBS LA que ela não achava que os registros do ChatGPT provassem algo substancial. Ela confessou que “conversou muito com o ChatGPT” e achou “irritante” a tentativa da promotoria de inferir falhas de caráter a partir dos registros de bate-papo. Na sua opinião, a interação com chatbots tornou-se parte da vida quotidiana das pessoas comuns e estes registos por si só são difíceis de utilizar como base para avaliar se uma pessoa tem tendências criminosas.
Este caso reflecte novas controvérsias sobre a utilização de ferramentas de inteligência artificial em cenários judiciais: por um lado, os procuradores e as agências de investigação estão cada vez mais inclinados a considerar dados de dispositivos pessoais, registos de actividades online e até conteúdos de interacção com IA como potenciais fontes de provas; por outro lado, o público e os jurados ainda têm fortes dúvidas sobre como interpretar estes dados e se reflectem adequadamente os verdadeiros motivos e comportamentos. No caso do incêndio florestal em Palisades, os registos do ChatGPT não conseguiram conter a chave para uma condenação e, em vez disso, alimentaram o ressentimento entre os jurados sobre a estratégia probatória da acusação.
À medida que a IA generativa se torna cada vez mais integrada na utilização quotidiana, é provável que disputas semelhantes se repitam em mais casos no futuro. A forma como o sistema judicial distingue o “bate-papo diário” dos “sinais de perigo” e como evitar a estigmatização generalizada dos utilizadores da tecnologia tornar-se-ão questões práticas que necessitam de uma resposta urgente na intersecção entre o direito e a tecnologia.