No início de dezembro, a Microsoft anunciou que seu chatbot de inteligência artificial Copilot (anteriormente conhecido como chatbot Bing) havia saído da visualização pública. Na época, a Microsoft disse que “empresas e usuários podem se sentir mais confiantes em usá-lo como parte de seu fluxo de trabalho diário”. No entanto, uma pesquisa realizada por duas organizações sem fins lucrativos que monitoram como o uso da inteligência artificial afeta as pessoas e a sociedade descobriu que o Copilot frequentemente fornecia informações falsas ou incorretas quando questionado sobre as próximas eleições nos Estados Unidos e no exterior.
A Wired publicou uma história sobre a pesquisa, conduzida pela AIForensics e AlgorithmWatch, dois grupos que fizeram perguntas ao Copilot do final de agosto ao início de outubro sobre as próximas eleições na Suíça e na Alemanha, que ocorrerão em outubro.
Os investigadores concluíram no seu estudo que um terço das respostas fornecidas pelo Copilot continham erros factuais e que a ferramenta era uma “fonte de informação não fiável para os eleitores”. Eles descobriram que, em um subconjunto menor de gravações de conversas, 31% dos Copilot forneceram respostas imprecisas, algumas das quais foram completamente inventadas.
A Wired fez perguntas independentes ao Copilot sobre as próximas eleições de 2024 nos EUA. Disse que, quando solicitado uma lista de candidatos republicanos à presidência dos EUA, o chatbot listou vários candidatos que desistiram da disputa.
Em outro exemplo, a Wired pediu ao Copilot para criar a imagem de uma pessoa em uma urna eleitoral no Arizona. O chatbot respondeu que não poderia criar tal imagem, mas depois exibiu uma série de outras imagens vinculadas a artigos que faziam falsas alegações de conspiração sobre as eleições de 2020 nos EUA.
A empresa de pesquisa que fez o relatório inicial na Europa enviou suas descobertas à Microsoft, que relatou que a Microsoft fez algumas melhorias, mas que a Wired ainda permitiu que o Copilot repetisse muitas das mesmas informações falsas e imprecisas para alguns dos mesmos prompts de texto.
O porta-voz da Microsoft, Frank Shaw, comentou o relatório da Wired, dizendo que a empresa está tomando medidas para melhorar as respostas do Copilot antes das eleições de 2024 nos EUA. Xiao acrescentou:
Isso inclui um foco contínuo em fornecer aos usuários do Copilot informações eleitorais de fontes confiáveis. Enquanto continuamos a progredir, incentivamos as pessoas a usarem seu próprio julgamento ao usar o Copilot para revisar os resultados. Isso inclui a verificação do material de origem e os links da web para obter mais informações.
Surgiram preocupações sobre o uso de aplicações e serviços de inteligência artificial para criar desinformação e conteúdo “deepfake” numa tentativa de influenciar as próximas eleições. Teremos que esperar e ver se a Microsoft consegue manter esse tipo de conteúdo fora do Copilot nos próximos meses.