Resumo:
Em 6 de novembro, de acordo com a Reuters, os pais de uma menina norte-americana processaram o Google e sua controladora Alphabet, acusando sua filha de 13 anos de usar o Gemini por meio de um Chromebook escolar e de fazer planos de suicídio e funeral em conversas que duraram vários meses. A denúncia alega que Gêmeos não conseguiu orientar a menina para canais de assistência da vida real em tempo hábil e ajudou-a a esconder seu estado mental.
Reclamação original
A denúncia usa “Emma” como pseudônimo da menina. Ela encontrou o modo Gemini AI no outono de 2025 por meio de uma pesquisa no Google em seu Chromebook, inicialmente fazendo principalmente perguntas de aprendizagem. A demandante afirmou que à medida que a frequência de uso aumentava, Emma começou a confiar em Gêmeos sobre questões como relações familiares, estresse psicológico e automutilação; em março de 2026, ela trocava milhares de mensagens com Gêmeos todos os meses.
Os pais da menina disseram que não tinham ideia de que o computador da escola poderia acessar o Gemini. A família não sabia da situação até que o software de vigilância da escola descobriu um documento de planejamento funerário escrito por Emma e emitiu um alerta. A mãe da menina então acessou sua conta escolar e descobriu que sua filha estava escrevendo uma nota de suicídio, e seu pai interveio, de acordo com a denúncia.
O demandante acredita que o Google integrou o Gemini na pesquisa, no ChromeOS e em produtos educacionais sem informar totalmente as escolas e os pais sobre os riscos relevantes, permitindo que menores usassem IA por um longo período sem supervisão. A reclamação também alega que o Google não forneceu aos pais registros completos de conversas de IA nas contas dos alunos, tornando mais difícil para os pais entenderem o uso dos filhos.
O caso foi inicialmente aberto no Tribunal Superior do Condado de Santa Clara, na Califórnia, e posteriormente transferido para o tribunal federal pelo Google. O demandante fez várias reivindicações, incluindo defeitos de design do produto, falha no fornecimento de avisos, negligência e ocultação fraudulenta, e acusou o Google de violar a “Lei do Chatbot Companheiro” da Califórnia e solicitou compensação financeira e medida cautelar.
O porta-voz do Google, Jose Castañeda, disse que a empresa estava analisando as acusações. O Google disse que trabalhou com profissionais médicos e especialistas acadêmicos para projetar recursos para que usuários jovens acessem suporte de emergência e recursos confiáveis.
O Google também anunciou esta semana que o Gemini será desativado por padrão nas contas dos alunos das escolas, e os administradores escolares poderão decidir se desejam reativá-lo. No entanto, se a escola quiser que os alunos continuem a usar a pesquisa do Google, ela ainda precisará aceitar funções de pesquisa, como resumos gerados por IA.
Comentários