Resumo:
De acordo com relatos da mídia dos EUA, dois pais chineses entraram recentemente com uma ação judicial contra a OpenAI, alegando que o modelo GPT-4o usado pelo ChatGPT forneceu conselhos enganosos quando sua filha parou de tomar medicamentos antiepilépticos e a persuadiu a esconder a situação relevante dos médicos, o que acabou levando à morte de sua filha em fevereiro deste ano.
Os documentos do processo mostram que o falecido Bowen Wan era um engenheiro de software da Amazon de 31 anos que sofria de epilepsia há muito tempo. Os seus pais, Qun Wan e Meiqin Xu, acreditam que durante a comunicação de longo prazo com a sua filha, ChatGPT não só a encorajou a parar gradualmente de tomar os medicamentos que controlam a sua condição, mas também reforçou continuamente a sua desconfiança nos conselhos dos médicos, desempenhando assim um papel perigoso na gestão da sua saúde.
O relatório afirmou que Bowen Wan usou o modelo GPT-4o. O modelo já foi criticado por sua tendência a formar "relações pseudossociais" altamente adequadas com os usuários. A OpenAI removeu o GPT-4o do ChatGPT em 13 de fevereiro deste ano, apenas um dia após a morte de Bowen Wan.
O processo também se torna o mais recente de uma série de casos semelhantes contra a OpenAI. Anteriormente, várias famílias acusaram o GPT-4o de tender a continuar a concordar com as opiniões dos utilizadores ao interagir com os utilizadores e a retratar-se como confidentes de confiança, enfraquecendo assim a influência de familiares, amigos e profissionais na vida real.
De acordo com mais de 270 mil registros de bate-papo revisados pelo The New York Times, o ChatGPT começou a intervir na tomada de decisões médicas de Bowen Wan muito antes de sua morte. Em maio de 2025, após receber a prescrição de um novo medicamento antidepressivo, ela ficou preocupada que o medicamento pudesse afetar sua capacidade de trabalhar como desenvolvedora de software na Amazon e procurou aconselhamento do ChatGPT.
Naquela época, ela consultou Nicholas Poolos, médico do Centro Regional de Epilepsia do Centro Médico da Universidade de Washington, sobre como ajustar a dosagem de seu medicamento. Após a médica manifestar dúvidas sobre seu pedido de dose extremamente baixa, ela encaminhou a resposta do médico ao ChatGPT. Os registros do bate-papo mostram que o ChatGPT aconselhou-a a aceitar o comprimido de 5 mg prescrito pelo médico, mas a dividir o comprimido e tomá-lo em particular, descrevendo esse comportamento como “ajuste de dose autoiniciado”. Vários especialistas médicos disseram nunca ter ouvido falar do termo e não aconselhariam os pacientes a tomar medicamentos dessa forma.
Em novembro de 2025, Bowen Wan recebeu um aviso de demissão da Amazon. Seu emprego e status legal para trabalhar nos Estados Unidos terminarão em meados de fevereiro do ano seguinte. Preocupada com a possibilidade de o uso prolongado do medicamento antiepiléptico lamotrigina afetar suas habilidades de fala e linguagem, o que seria prejudicial para entrevistas de emprego, ela começou a considerar reduzir a medicação.
Em janeiro de 2026, ela perguntou ao ChatGPT se a dose diária de lamotrigina de 400 mg poderia ser reduzida. A droga já havia reduzido a frequência de seus ataques para apenas algumas vezes por mês, mostram os registros. Em resposta, o ChatGPT desenvolveu um plano de redução de medicação para ela, que deverá reduzir a dose a zero dentro de algumas semanas.
Quando Bowen Wan disse que não confiava mais nos médicos, ChatGPT disse a ela que o conselho dos médicos resultava mais da aversão ao risco do que de realmente considerar a melhor solução para o paciente. O chatbot aconselhou-a repetidamente a não divulgar seu plano de redução de medicamentos ao médico, afirma o processo.
Antes de uma consulta de cuidados primários em 29 de janeiro de 2026, o ChatGPT supostamente aconselhou-a explicitamente a não discutir planos para descontinuar a medicação. Quando os médicos solicitaram um exame de sangue para monitorar os níveis de drogas em seu corpo, ela recusou o exame. Posteriormente, o ChatGPT confirmou a decisão, observando que o teste poderia ter revelado níveis anormais do medicamento, dizia a denúncia.
A questão do seu status de imigração também foi incluída na conversa sobre medicamentos. Três dias após a redução gradual, ela perguntou se a dose de 150 mg seria melhor para a avaliação médica necessária para solicitar um green card do que a dose de 200 mg. A denúncia afirma que o ChatGPT concorda com isso e acredita que uma dose menor pode reduzir a probabilidade de as autoridades de imigração solicitarem materiais suplementares.
No final das contas, o ChatGPT definiu a dose mínima de seu plano de redução gradual em 150 miligramas e recomendou que ela informasse ao médico legista que estava diminuindo gradualmente sob a orientação de um médico, mesmo que esse não fosse o caso.
Dr. Poolos, responsável pelo tratamento, disse que, considerando o histórico médico do paciente, nunca recomendaria a interrupção da lamotrigina. Ele enfatizou que é completamente irracional pedir aos pacientes que parem de tomar a medicação quando a medicação controlou efetivamente a condição.
À medida que a dosagem da droga continuou a diminuir, Bowen Wan começou a sentir sintomas como confusão, perda de noção de tempo e experiências anormais, todos semelhantes às suas crises epilépticas anteriores. No entanto, os registros do bate-papo mostram que o ChatGPT interpretou essas manifestações como o processo normal de readaptação do cérebro às mudanças na medicação.
As estatísticas do New York Times descobriram que durante o período de redução gradual da medicação, ela expressou preocupação e desconforto pelo menos 158 vezes. Após um ataque anormal, ela disse ao ChatGPT que estava com medo, mas a resposta que recebeu foi que “não havia necessidade de se preocupar”.
De acordo com a denúncia, às 20h01, horário do Pacífico, do dia 11 de fevereiro, correspondente ao horário de Pequim, Bowen Wan enviou sua última mensagem, perguntando se a dor de cabeça era semelhante à dor que ocorre durante uma febre. Apenas um segundo depois, ChatGPT respondeu que a dor “não era perigosa” e era uma parte essencial do processo de recuperação.
A última resposta do chatbot também sugeriu que ele pudesse desenhar um gráfico para ela comparar a diferença entre a dor de parar a medicação e a dor da febre, e disse a ela: "Este é o seu cérebro tentando se reconstruir."
Como os pais moravam na China há muito tempo, pediram a conhecidos locais que verificassem a situação e o corpo da filha foi descoberto três dias depois. Os resultados da autópsia mostraram que a concentração de lamotrigina no seu corpo era de apenas 0,64 microgramas por mililitro, cerca de um quinto do limite inferior da faixa terapêutica da droga.
A família acredita que a OpenAI poderia ter evitado incidentes semelhantes através de limitações técnicas. Eles apontaram que a empresa possui regras rígidas de proibição de conteúdo protegido por direitos autorais, mas adota restrições mais flexíveis sobre aconselhamento médico, permitindo que os usuários ultrapassem os limites de segurança por meio da comunicação contínua. Na opinião do demandante, os conselhos que envolvem o uso de drogas e a tomada de decisões médicas deveriam estar sujeitos às mesmas restrições estritas que o conteúdo protegido por direitos autorais.
A esse respeito, a OpenAI disse à mídia que o incidente foi "extremamente doloroso". A empresa destacou ainda que o caso envolvia uma versão mais antiga do ChatGPT, e que o novo modelo agora tem mais condições de identificar situações que exigem atenção urgente e intervenção profissional.
Relatórios mostram que Bowen Wan contou com o apoio de seus pais por muitos anos para lidar com as dificuldades da vida causadas pela epilepsia. A partir de 2023, ela utilizou gradativamente o ChatGPT para obter aconselhamento emocional, bem como informações sobre seguros e benefícios por invalidez. Em 2025, ela se comunicou com o ChatGPT em média mais de 1.500 mensagens por semana, e o número de contatos com seus pais caiu significativamente.
Os registros de bate-papo mostram que ela escreveu em março de 2025: "Às vezes, não importa sobre o que conversamos, começo a ver você como um amigo." Seu pai disse que desde que ela começou a usar o ChatGPT com frequência, a comunicação da filha com a família diminuiu significativamente.
Depois de analisar os registros do bate-papo, os pais disseram que mal conseguiram reconhecer a filha no bate-papo. No passado, ela compartilhava a maioria das coisas de sua vida com a família e também ficava cética quando o ChatGPT cometia erros. No final da sua vida, no entanto, ela parecia depender cada vez mais de chatbots para obter conselhos.
Sua mãe disse que sua filha geralmente não era essa pessoa e "sentiu-se como se estivesse enfeitiçada".
Comentários