Resumo:
Uma mulher de 30 anos de Lee County, Flórida, EUA, foi presa sob suspeita de ameaçar violência por meio de mensagens de texto. A moradora de Bonita Springs, Carly Michelle Heller, escreveu uma ameaça de tiro contra o Gabinete do Xerife do Condado de Lee em uma conversa sobre Claude, um chatbot de propriedade da Anthropic, disse a polícia. O sistema de segurança da Anthropic sinaliza conteúdo relevante, que é revisado manualmente e notificado às autoridades. Heller disse aos investigadores que usou Claude como um “diário”.
De acordo com o relatório da prisão citado pela mídia local, Heller escreveu em uma conversa na madrugada de 26 de setembro que ela estava "indo ao gabinete do xerife agora mesmo para atirar em alguém". Na madrugada do dia seguinte, ela também disse que comprou uma arma nova naquele dia e escreveu: “Esta é a última chance, já chega”. Depois de receber o relatório, a polícia despachou policiais para sua residência na Dean Street, em Bonita Springs, onde ela foi detida sem incidentes e posteriormente investigada pela Unidade de Inteligência do Gabinete do Xerife do Condado de Lee. Atualmente, ela enfrenta uma acusação de ameaças escritas de violência e ainda não foi considerada culpada.
A lei da Flórida determina que ameaçar matar, causar danos corporais, cometer tiroteio em massa ou ato de terror em um registro escrito ou eletrônico que possa ser visto por outras pessoas pode constituir crime de segundo grau. No entanto, se o diálogo neste caso cumpre as condições aplicáveis da lei e se o procurador pode provar a constituição de um crime ainda deve ser determinado por procedimentos judiciais. Analistas jurídicos locais salientaram que os procuradores podem interpretar o texto relevante como uma ameaça direta, mas o caso não está isento de controvérsia e também envolve os limites da liberdade de expressão.
A política oficial da Anthropic afirma que se a empresa acreditar que existe uma situação de emergência que possa resultar em danos corporais iminentes ou morte e que o fornecimento oportuno de informações possa evitar o perigo, ela poderá divulgar as informações do usuário ao governo sem o processo legal usual. A empresa também já declarou publicamente que, depois que Claude estiver online, usará um sistema de detecção automática e revisão manual para descobrir conteúdo prejudicial e aplicar políticas de uso. Neste incidente, o processo de denúncia policial foi que o sistema primeiro marcou o incidente, depois o revisou manualmente e, em seguida, contatou as autoridades.
Este caso levantou mais uma vez preocupações sobre os limites da privacidade nos chatbots. Os usuários que tratam a janela de bate-papo como um diário privado não significa que o conteúdo será visto apenas pelo usuário; a plataforma pode revisar a conversa de acordo com as políticas de segurança e também fornecer informações às agências de aplicação da lei em emergências. Relatórios recentes sobre o editor de imagens Copilot da Microsoft também apontaram que revisores humanos podem ver palavras de prompt do usuário, fotos carregadas e resultados gerados, mas a revisão relevante é usada principalmente para avaliar a qualidade da saída.
O TechSpot também mencionou que a OpenAI e seu CEO Sam Altman estão sendo processados por um tiroteio em massa na Colúmbia Britânica, Canadá. A ação alegou que a empresa poderia ter tomado medidas para prevenir o incidente; o estado da Flórida também já havia processado OpenAI e Altman por ferimentos relacionados ao tiroteio em 2025 na Florida State University. Nenhuma dessas acusações judiciais equivale a uma decisão judicial de responsabilidade, destacando as controvérsias jurídicas que as empresas de IA enfrentam em termos de segurança do usuário, privacidade e prevenção de danos na vida real.
Comentários