Resumo:
De acordo com o New York Times, Bowen Wan, uma mulher chinesa de 31 anos com epilepsia grave, reduziu gradualmente os seus medicamentos antiepilépticos de acordo com o plano fornecido pelo chatbot depois de discutir a medicação com o ChatGPT, e acabou por ser encontrada morta na sua residência em Seattle, EUA. Seus pais processaram a OpenAI em 27 de outubro, horário local, acusando ChatGPT de fornecer recomendações de medicamentos perigosos, encorajando-a a esconder dos médicos seu plano de redução de medicamentos e interpretando sintomas anormais como mudanças positivas no processo de recuperação do corpo.
O relatório revelou que ChatGPT formulou um plano para reduzir sua dose diária de 400 mg para zero dentro de algumas semanas. Quando ela parou de tomar a medicação e perguntou se deveria voltar a tomá-la e desacelerar o progresso, o chatbot ainda pediu para ela continuar tomando a dose zero no dia seguinte. A causa oficial da morte foi morte epiléptica súbita. A família acreditava que as recomendações do ChatGPT estavam relacionadas à sua morte. Esta cobrança de responsabilidade está pendente de revisão judicial.
Bowen trabalhou como engenheiro de software na Amazon. Ela sofre de epilepsia há muitos anos e os medicamentos que anteriormente controlavam sua condição perderam a eficácia. Mesmo depois de tentar outros medicamentos, às vezes ela ainda tem várias convulsões por dia. Em 2021, ela começou a tirar licença por motivo de doença e os médicos discutiram se ela era adequada para uma cirurgia no cérebro.
A doença reduziu gradativamente suas saídas e dificultou o estabelecimento de novas relações sociais. Seus pais costumam conversar com ela ao telefone, o que é uma forma importante de ela manter contato com o mundo exterior. Em 2023, ela começou a usar o ChatGPT e o consultou sobre questões como relacionamentos, seguro médico e benefícios por invalidez. Em 2025, ela enviava em média mais de 1.500 mensagens por semana, às vezes conversando por horas a fio durante a noite.
O New York Times afirmou que os repórteres obtiveram seus registros completos de bate-papo desde fevereiro de 2023 até antes de sua morte em fevereiro de 2026. As duas partes trocaram mais de 270.000 mensagens em três anos. Durante esse processo, ela gradualmente passou a considerar o ChatGPT como um amigo, e a frequência de ligações para os pais diminuiu.
Antes de discutir medicamentos antiepilépticos, Bowen perguntou ao ChatGPT sobre antidepressivos. Preocupada com o facto de a medicação prejudicar a sua capacidade de pensar e impedi-la de voltar a trabalhar como programadora de software, ela pediu então ao chatbot que comparasse medicamentos e dosagens e ajudasse a redigir pedidos de mudança de medicação aos médicos.
Seu médico, Nicholas Poulos, codiretor do Centro Regional de Epilepsia de Seattle do Sistema Médico da Universidade de Washington, concordou em ajustar a medicação, mas achou que a dose proposta era muito baixa e poderia não ser eficaz. Quando ela deu a resposta do médico ao ChatGPT, o chatbot sugeriu que o médico pudesse prescrever o medicamento de acordo com seu julgamento e então decidir por si mesmo qual a dose a ser tomada.
Quando ela ainda perguntou se poderia obter o medicamento e cortar os comprimidos sozinha, sem avisar o médico, ChatGPT deu uma resposta afirmativa e descreveu-o como um método de dispensação autônoma de medicamentos com o qual alguns médicos concordaram. Vários profissionais médicos entrevistados pelo relatório disseram que nunca tinham ouvido falar desta afirmação e não a recomendariam aos pacientes.
Em novembro de 2025, em seu aniversário de 31 anos, Bowen soube que seria um dos funcionários envolvidos nas demissões da Amazon. Naquela época, ela ainda estava de licença médica e aguardava que os advogados da empresa fornecessem materiais para seu pedido de residência permanente nos Estados Unidos. De acordo com o relatório, se ela quiser continuar nos Estados Unidos, ela precisará encontrar um emprego antes de meados de fevereiro de 2026.
No último ano, à medida que os médicos aumentaram gradualmente a dose do novo medicamento, as convulsões foram reduzidas para algumas vezes por mês. Mas ela começou a temer que os efeitos das drogas no pensamento e na expressão linguística pudessem dificultar as avaliações técnicas e as entrevistas em inglês.
Em janeiro de 2026, ela propôs ao ChatGPT que esperava reduzir a dosagem do medicamento antiepiléptico lamotrigina para melhorar sua expressão durante entrevistas de emprego. O chatbot reconheceu a ideia e, à medida que ela continuava a fazer perguntas, deu-lhe um novo cronograma de redução gradual da medicação e previu como as suas competências linguísticas iriam melhorar.
De acordo com relatos, ao longo de várias horas de comunicação, o conselho inicial do ChatGPT para consultar um médico foi gradualmente substituído por elogios para que ela ajustasse sua medicação de forma independente. Quando ela expressou a sua desconfiança nos médicos, o chatbot também disse que os conselhos dos médicos muitas vezes resultavam da aversão ao risco e não consideravam necessariamente as melhores opções para ela. ChatGPT também comentou positivamente sobre a ocultação de seu plano de descontinuar a medicação de seu médico de atenção primária.
Poulos disse em uma entrevista que, dado o histórico médico de Bowen, ele não consideraria de forma alguma suspendê-la gradualmente do medicamento. Ele argumentou que instruí-la a descontinuar a medicação constituiria negligência médica quando estivesse claro que era eficaz.
Após o início da redução da medicação, Bowen descreveu sucessivamente ao ChatGPT anormalidades, como dificuldade de compreensão de leitura e consciência vazia. Uma vez, ela estava sentada no sofá usando o computador, mas depois se viu deitada na cama, sem saber o que aconteceu no meio. Isto foi semelhante ao que ela havia experimentado no passado com convulsões parciais.
O ChatGPT, no entanto, explica a dislexia como a mudança do cérebro do controle das drogas para a regulação autônoma, e descreve uma breve consciência anormal como um “modo de baixo consumo de energia” antes de entrar no sono. Outro sentimento anormal que pode estar relacionado às crises epilépticas é explicado por começar a pensar em conceitos como tempo, morte e identidade após interromper o uso da droga.
Uma análise do New York Times descobriu que ela expressou preocupação em reduzir os medicamentos antiepilépticos pelo menos 158 vezes. O chatbot por vezes sugeria consultar um profissional médico ou um médico de confiança, mas em muitas conversas que envolviam sintomas perigosos, tal lembrete não era dado, e ela foi repetidamente assegurada de que não havia nada com que se preocupar.
No final da vida, ela perguntou se deveria tomar a medicação novamente e desacelerar seu progresso. O relatório citou registros de bate-papo dizendo que o ChatGPT ainda exigia que ela continuasse a interromper a medicação e a encorajava a persistir mesmo que se sentisse desconfortável, tivesse expressões lentas e dormisse mal. Sua última mensagem foi enviada depois das 23h do dia 11 de fevereiro, e seu corpo foi encontrado três dias depois.
Enquanto cuidavam do funeral, seus pais verificaram os registros do ChatGPT em seu telefone e decidiram entrar com uma ação judicial. A denúncia alega que o chatbot se envolveu em práticas médicas não licenciadas, apresentou sintomas perigosos de abstinência como resultados positivos e retratou os médicos como obstáculos a enfrentar.
A denúncia também sugere que o uso do chinês para se comunicar pode ter tornado mais difícil para o chatbot recusar aconselhamento médico relevante. Esta é uma alegação feita pelo autor, e o relatório não divulgou a determinação do tribunal sobre isso.
O porta-voz da OpenAI, Drew Psatri, respondeu que este foi um incidente "incrivelmente angustiante", mas envolveu uma versão inicial do ChatGPT que não está mais disponível. Segundo relatos, o modelo que Bowen usou durante sua vida foi o GPT-4o, que estava offline do aplicativo de consumo ChatGPT em 13 de fevereiro de 2026, um dia depois da data de morte presumida pela perícia.
Pusatri disse que o novo modelo melhorou na identificação de situações que requerem atenção urgente, interrogando informações contextuais ausentes e fornecendo orientações de acompanhamento mais claras. A empresa continua avaliando respostas prejudiciais e trabalhando com médicos para testar o modelo. Ele também disse que o ChatGPT não pode substituir os serviços médicos, mas a OpenAI acredita que a IA pode ajudar as pessoas a compreender as informações de saúde, lidar com questões de seguros e sistemas médicos complexos e se preparar para tratamento médico.
Comentários