Após a eleição presidencial dos EUA em 2024, um grande número de usuários recorreu à mídia social descentralizada Bluesky devido à insatisfação com os comentários ofensivos partidários da plataforma X (antigo Twitter). Bluesky não usa algoritmos para recomendar conteúdo e reduziu o discurso extremo e a desinformação no estágio inicial. Mas dentro de um ano, a plataforma ainda tinha um efeito de câmara de eco.
Pesquisadores da Universidade de Amsterdã descobriram, por meio de experimentos de simulação de IA, que mesmo sem algoritmos complexos, as mídias sociais ainda se dividirão naturalmente em círculos fechados e formarão um fenômeno de polarização com apenas funções básicas, como postar, encaminhar e seguir. Eles construíram uma plataforma simplificada com 500 usuários virtuais, definiram características do usuário com base em dados da Pesquisa Eleitoral Nacional dos EUA e usaram grandes modelos de linguagem, como ChatGPT, Llama e DeepSeek, para simular o comportamento do usuário. Depois que o experimento durou 10.000 ciclos de interação, três problemas principais surgiram na plataforma: câmaras de eco, concentração de influência e fala extrema.
Os pesquisadores tentaram seis intervenções, como mostrar as postagens em ordem cronológica ou promover pontos de vista opostos, mas nenhuma resolveu completamente o problema e algumas até exacerbaram os fenômenos negativos. Acadêmicos da Universidade de Washington acreditam que este resultado reflete “uma ressonância entre a natureza humana e a dinâmica da atenção das redes sociais”, e que mesmo que o algoritmo seja removido, a arquitetura do sistema ainda pode reter toxicidade.
Especialistas da Universidade de Indiana questionaram que os próprios dados de treinamento de IA podem conter toxicidade nas redes sociais, fazendo com que os resultados experimentais sejam inerentemente tendenciosos para a polarização. Pesquisadores da Universidade de Nova York acreditam que, embora não exista uma solução simples, os usuários que postam conteúdo mais neutro podem ajudar a aliviar a polarização.
Este estudo revela o mecanismo subjacente à polarização das redes sociais e mostra que é difícil erradicar o problema apenas através de ajustamentos técnicos e requer uma combinação de estratégias multipartidárias para lidar com ele.