A empresa OpenAI divulgou recentemente dados que mostram que mais de um milhão de usuários discutem o tema suicídio ao se comunicarem com o ChatGPT todas as semanas. De acordo com novos dados divulgados pela empresa, cerca de 0,15% dos usuários ativos do ChatGPT conversam com “planos ou intenções suicidas claras” todas as semanas. Com base no fato de o ChatGPT ter mais de 800 milhões de usuários ativos semanais, o número de conversas relacionadas ultrapassou um milhão.

A OpenAI apontou que uma proporção semelhante de usuários mostra uma alta dependência emocional do ChatGPT, com “centenas de milhares” mostrando sinais de psicose ou mania todas as semanas. A empresa enfatizou que embora essas conversas extremas sejam “extremamente raras”, elas ainda afetam milhares de usuários todas as semanas.

Esta divulgação de informações é uma iniciativa da OpenAI para melhorar a capacidade da IA ​​de responder a tópicos sensíveis em saúde mental. A empresa afirmou que mais de 170 especialistas em saúde mental foram consultados durante o desenvolvimento da última versão do ChatGPT. Esses especialistas disseram que a versão mais recente do ChatGPT é “mais apropriada e consistente do que a versão antiga” em respostas relevantes. Houve muitos relatórios recentemente sobre o impacto da IA ​​nas questões de saúde mental. Alguns estudos apontaram que os chatbots de IA podem encorajar os usuários a ter crenças perigosas e até mesmo desencadear pensamentos delirantes.

As questões de saúde mental tornaram-se um desafio central para a OpenAI. No início deste ano, a OpenAI entrou com uma ação judicial contra a empresa porque os pais de um menino de 16 anos optaram por acabar com sua vida após comunicarem conteúdo relacionado ao suicídio ao ChatGPT. Os procuradores-gerais da Califórnia e de Delaware também alertaram a OpenAI que ela precisa fortalecer as medidas de proteção para usuários adolescentes.

No início deste mês, o CEO da OpenAI, Sam Altman, disse nas plataformas sociais que a empresa “conseguiu aliviar sérios problemas de saúde mental”. No entanto, as medidas específicas relevantes não foram tornadas públicas. Os números divulgados esta semana parecem apoiar esse compromisso e reflectir a natureza generalizada do problema. Altman também revelou que a empresa relaxará algumas restrições, incluindo permitir que usuários adultos se comuniquem com IA para conteúdo erótico.

Os dados oficiais mostram que a versão mais recente do GPT-5 tem cerca de 65% mais probabilidade de alcançar os resultados desejados nas respostas à saúde mental do que a versão anterior; na avaliação das respostas ao tema suicídio, a nova versão do GPT-5 apresenta taxa de adesão de 91%, enquanto a versão antiga é de 77%. A nova versão do GPT-5 também reforçou a sua proteção de segurança durante longas conversas, compensando as deficiências da proteção reduzida da versão antiga durante longas conversas.

Além disso, a OpenAI também lançou um novo padrão de avaliação que incorpora dependência emocional e crises de saúde mental não suicidas nos benchmarks de segurança do modelo de IA. A empresa também lançou mais ferramentas de supervisão parental e está a desenvolver sistemas para identificar automaticamente utilizadores menores de idade e fornecer-lhes medidas de segurança mais rigorosas.

Embora o GPT-5 tenha feito melhorias na segurança em relação ao seu antecessor, o OpenAI ainda está abrindo modelos de IA mais antigos e menos seguros para milhões de usuários pagantes. A julgar pelos dados atuais, ainda existem alguns riscos para a saúde mental e ainda não se sabe se o problema pode ser completamente resolvido.