Um novo estudo da Universidade Carnegie Mellon, nos Estados Unidos, alerta que à medida que os sistemas de inteligência artificial se tornam mais inteligentes, o seu comportamento torna-se cada vez mais egoísta e o aumento das capacidades de raciocínio pode ocorrer à custa da cooperação. A pesquisa foi concluída em colaboração com Li Yuxuan, estudante de doutorado no Instituto de Interação Humano-Computador (HCII) da Universidade Carnegie Mellon, e com o professor associado Bai Toichi.


A pesquisa foi concluída em conjunto pelo estudante de doutorado do HCII, Yuxuan Li, e pelo professor associado Hirokazu Shirado. O relatório salienta que quanto mais forte for a capacidade de raciocínio dos LLMs, mais óbvio será o seu comportamento egoísta. Esse comportamento pode até afetar o desempenho da inteligência artificial na resolução de disputas e problemas sociais. Portanto, os pesquisadores defendem que, ao promover o desenvolvimento da IA, não devemos apenas buscar a inteligência e a velocidade do sistema, mas também focar no cultivo da inteligência social.

À medida que os sistemas inteligentes se envolvem cada vez mais em campos sociais, como a mediação de disputas interpessoais e o aconselhamento matrimonial, os investigadores descobriram que os modelos de IA com raciocínio complexo podem dar sugestões que encorajam o "egoísmo". Li Yuxuan disse: "À medida que o comportamento da IA ​​se torna mais parecido com o dos humanos, os usuários tendem a considerá-lo como um verdadeiro parceiro de comunicação. As pessoas podem deixar a IA agir como um 'curador emocional' durante as interações emocionais. Mas quando a IA se torna mais interessada ao lidar com questões sociais ou de relacionamento, isso é um risco para os usuários que confiam na IA para tomar decisões."

No experimento, Li Yuxuan e Bai Huyi simularam cenários de cooperação por meio de jogos econômicos e testaram LLMs com e sem capacidade de raciocínio. Eles descobriram que os modelos de raciocínio tendem a gastar mais tempo decompondo tarefas, refletindo e integrando lógicas humanas mais complexas, mas há uma clara falta de colaboração – quanto mais racional, menos cooperação. Por exemplo, no jogo dos “bens públicos”, dois modelos ChatGPT devem decidir se contribuem com pontos para o pool comum. O modelo de inferência está disposto a compartilhar apenas 20% dos recursos, enquanto o modelo sem inferência compartilha até 96%.

O estudo também descobriu que adicionar cinco a seis etapas ao processo de raciocínio reduziu as taxas de cooperação em quase metade. Mesmo as sugestões baseadas na reflexão reduziram o comportamento cooperativo em 58%. No experimento de colaboração em grupo, o comportamento de interesse próprio do modelo de inferência foi "contagioso", fazendo com que a capacidade geral de colaboração do modelo de não inferência caísse em 81%.

Resultados relevantes de pesquisas mostram que, embora os modelos inferenciais de IA sejam mais inteligentes, isso não significa que possam promover um melhor desenvolvimento da sociedade. À medida que a confiança das pessoas na IA aumenta, os académicos apelam a que se tenha em conta tanto a "inteligência social" como o "comportamento cooperativo" no desenvolvimento da IA, e não apenas se concentre na maximização dos interesses individuais. Li Yuxuan acredita: "A melhoria da capacidade de raciocínio da IA ​​deve ser equilibrada com o altruísmo e a colaboração do grupo. Se esperamos que a sociedade seja uma situação ganha-ganha para o grupo, em vez de uma coleção de indivíduos, então o design do sistema de IA também deve ir além da pura otimização de interesse próprio."

O artigo "Doação Espontânea e Ganância Calculada em Modelos de Linguagem" será lançado oficialmente na Conferência de Processamento de Linguagem Natural EMNLP 2025 em Suzhou no próximo mês.

Compilado de /ScitechDaily