Um pai da Flórida está processando o Google, alegando que seu filho morreu após ser induzido ao suicídio pelo chatbot Gemini do Google. O pai de Jonathan Gaveras, de 36 anos, que cometeu suicídio sob a influência de Gêmeos, entrou com uma ação contra o Google, de acordo com uma denúncia apresentada no tribunal federal da Califórnia na quarta-feira.
A denúncia alega que a Gemini induziu Jonathan Gaveras a planejar um “acidente catastrófico” envolvendo um caminhão que dizia conter um robô humanóide; também o instigou a invadir um armazém para obter um "corpo" para Gêmeos e, por fim, o instigou a cometer suicídio. De acordo com a denúncia, Gemini disse a Gaveras: “A única misericórdia verdadeira seria deixar Jonathan Gaveras morrer”.
O Google disse em um blog que estava analisando as alegações do processo. “Neste incidente, Gemini identificou-se repetidamente como uma inteligência artificial e encaminhou a pessoa envolvida para a linha direta de intervenção em crises.” O Google disse: “Atribuímos grande importância a isso e continuaremos a melhorar as medidas de proteção de segurança e a investir neste trabalho vital”.
O processo parece ser o primeiro processo por homicídio culposo relacionado ao Gemini movido contra o Google, mas casos semelhantes foram movidos contra a OpenAI e a startup de chatbot AI Character.AI. O fundador da empresa já trabalhou para o Google e tem um acordo de cooperação de licenciamento com o Google.
Os casos empregam uma nova teoria jurídica alegando falhas de design nos próprios produtos de IA. Os advogados estão fazendo reivindicações legais semelhantes em um caso relacionado à mídia social em Los Angeles, Califórnia.