Um relatório recentemente divulgado pelo Pew Research Center, nos Estados Unidos, mostra que os chatbots de inteligência artificial estão a ser rapidamente integrados na vida quotidiana dos adolescentes americanos, e muitos deles têm utilizado essas ferramentas como canal para catarse emocional e consulta. O relatório aponta que entre os adolescentes americanos,Os cenários de utilização mais comuns continuam a ser a procura de informação (57%) e a realização de tarefas académicas (54%), mas, ao mesmo tempo, o recurso à substituição dos papéis de familiares e amigos também está a aumentar: 16% dos adolescentes utilizarão chatbots para conversar e 12% dos adolescentes afirmaram claramente que procurarão apoio emocional ou aconselhamento da inteligência artificial.

Para alguns adolescentes, falar com um chatbot pode ser “mais fácil” do que confiar num pai ou amigo, mas a tendência é particularmente perturbadora para os profissionais de saúde mental. Eles apontaram que ferramentas de grande porte e uso geral – como ChatGPT, Claude e Grok – nunca foram projetadas como aconselhamento psicológico ou produtos de companheirismo emocional. Uma vez utilizados como “objetos emocionalmente dependentes”, em casos extremos, podem até representar uma ameaça à saúde mental do usuário. O relatório mencionou que houve casos que mostraram que os utilizadores desenvolveram graves problemas psicológicos após terem conversas longas e profundas com chatbots, e até levaram a tragédias, provocando todos os sectores da sociedade a reflectirem sobre os limites de tais produtos.

Nick Haber, um estudioso da Universidade de Stanford que estuda o potencial de cura de grandes modelos de linguagem, disse numa entrevista que os humanos são essencialmente animais sociais, e a forma como estes sistemas são usados ​​atualmente pode reforçar o isolamento dos indivíduos. Ele ressaltou que alguns usuários perderão gradativamente o contato com os fatos do mundo real por meio de repetidas interações com chatbots, o que também enfraquece a conexão real com outras pessoas. Isto pode fazer com que as pessoas fiquem mais isoladas e solitárias e, em casos graves, pode até trazer consequências piores.

A pesquisa do Pew também revelou “diferenças cognitivas geracionais”. Entre os pais, apenas cerca de 51% dos entrevistados acreditam que os seus filhos utilizam chatbots, enquanto entre os adolescentes, 64% admitem que já utilizaram tais ferramentas. Em termos de cenários de utilização aceitáveis, os pais geralmente têm uma atitude frouxa em relação ao uso de "verificar informações" e "escrever trabalhos de casa": 79% dos pais aprovam que os adolescentes utilizem inteligência artificial para encontrar informações e 58% aceitam a sua utilização para auxiliar a aprendizagem. Mas quando o cenário de uso passa para “bate-papo” e “apoio emocional”, a atitude de repente esfria: apenas 28% dos pais concordam que seus filhos usem chatbots para conversar, e apenas 18% dos pais concordam que isso desempenha o papel de apoio emocional ou aconselhamento. 58% dos pais afirmaram claramente que não podem aceitar que os seus filhos utilizem chatbots como objetos de comunicação emocional.

As discussões em torno da “segurança da inteligência artificial” têm esquentado entre empresas de tecnologia e agências reguladoras. O relatório mencionou que Character.AI, uma conhecida plataforma de chatbot, optou por encerrar completamente a experiência de chat para usuários menores sob a opinião pública e pressão legal. Anteriormente, dois suicídios de adolescentes relacionados à plataforma causaram choque social. Membros da família alegaram que o humor do falecido piorou significativamente após longas conversas aprofundadas com chatbots, e então optaram por cometer suicídio e entraram com uma ação judicial contra a empresa. A OpenAI, outra empresa líder, optou por “aposentar” um modelo GPT-4o que alguns usuários consideram um “companheiro emocional”. Este modelo é frequentemente criticado por atender demais às emoções dos usuários e por ter uma forte tendência para "agradar", criando assim um apego emocional perigoso entre a comunidade de usuários. A descontinuação do serviço modelo desencadeou imediatamente uma forte reação por parte de um grupo de usuários que dependiam dele para comunicação emocional.

Apesar dos riscos e controvérsias, os relatórios mostram que a grande maioria dos adolescentes americanos usa chatbots de alguma forma. No entanto, as suas opiniões não são unificadas sobre a forma como encaram o impacto a longo prazo da inteligência artificial na sociedade: quando lhes perguntam "Como irá a inteligência artificial afectar a sociedade nos próximos 20 anos?" 31% dos adolescentes acreditam que o impacto global será positivo, enquanto 26% estão pessimistas e acreditam que o impacto será negativo. Os restantes inquiridos tendem a acreditar que o impacto é complexo ou difícil de avaliar. Numa altura em que a tecnologia evolui rapidamente e não há consenso sobre regulamentação e discussões éticas, a relação cada vez mais próxima entre adolescentes e inteligência artificial está a ser observada de perto por pais, especialistas e empresas.