Os investigadores usaram a inteligência artificial para criar uma forma de melhorar a qualidade e a civilidade das discussões online sobre tópicos polarizadores, fornecendo aos utilizadores sugestões para reformularem os seus comentários antes de os publicarem. Dizem que, se usada corretamente, a inteligência artificial pode ser usada para criar um ambiente digital mais amigável e seguro.

As conversas online desempenham agora um papel central na discussão pública. Mas as secções de comentários das plataformas de redes sociais e dos meios de comunicação digitais estão repletas de discussões que se transformam em argumentos, ameaças e xingamentos, especialmente quando as discussões abordam temas polêmicos.

Agora, pesquisadores da Brigham Young University (BYU) e da Duke University desenvolveram inteligência artificial que pode moderar bate-papos online, melhorar a qualidade do bate-papo e promover a civilidade.

Recrutaram 1.574 participantes para uma experiência de campo, pedindo-lhes que participassem em discussões online sobre o controlo de armas nos Estados Unidos, uma questão controversa frequentemente levantada em debates políticos. Cada participante foi emparelhado com alguém que se opunha à política de armas.

Após o emparelhamento bem-sucedido, os parceiros de conversação foram designados aleatoriamente para a condição de tratamento ou controle e então iniciaram a conversa. No processamento de conversas, um participante recebe três sugestões de reformulação do GPT-3 antes de enviar uma mensagem. Os participantes podem optar por enviar uma das três alternativas sugeridas pela IA, a sua própria mensagem original, ou editar qualquer mensagem.

A mensagem reformulada sugerida pela IA não alterou o conteúdo da avaliação, mas deu aos usuários a opção de fazer uma declaração mais educada.

Foram enviadas em média 12 mensagens por conversa, e a IA sugeriu um total de 2.742 mensagens reescritas. Os participantes aceitaram as mudanças de palavras sugeridas pela IA em dois terços das vezes. Os parceiros de bate-papo de pessoas que implementaram uma ou mais sugestões de reformulação da IA ​​relataram conversas de qualidade significativamente mais alta e uma maior disposição para ouvir as perspectivas de seus oponentes políticos.

“Descobrimos que quanto mais frequentemente a reformulação da frase era usada, maior a probabilidade de os participantes sentirem que a conversa não causava divisão e que se sentiam ouvidos e compreendidos”, disse David Wingate, um dos coautores do estudo.

Os pesquisadores dizem que suas descobertas sugerem que esta solução escalável poderia combater a cultura online tóxica que satura a Internet. Dizem que isto seria mais fácil de implementar do que cursos de formação profissional em cibercivilidade, que são limitados em âmbito e disponibilidade, porque as intervenções de IA podem ser amplamente implementadas através de uma variedade de canais digitais.

Os investigadores afirmam que o estudo mostra conclusivamente que, se utilizada corretamente, a inteligência artificial pode desempenhar um papel importante na criação de um ambiente online mais positivo, promovendo discussões compassivas e respeitosas.

“Espero que continuemos a permitir que mais estudantes da BYD construam aplicações pró-sociais como esta, e que a BYD possa se tornar líder na demonstração de formas éticas de usar o aprendizado de máquina”, disse Wingate. “Num mundo dominado pela informação, precisamos de estudantes que possam processar a informação do mundo de forma positiva e socialmente benéfica.”

A pesquisa foi publicada no Proceedings of the National Academy of Sciences (PNAS).