Grupos extremistas começaram a experimentar o uso de inteligência artificial, particularmente IA generativa, para criar uma série de nova propaganda. Os especialistas agora temem que o uso crescente de ferramentas generativas de inteligência artificial pelos grupos reverta o trabalho que a Big Tech tem feito nos últimos anos para impedir que o seu conteúdo entre na Internet.

“Nossa maior preocupação é que se os terroristas começarem a usar IA generativa para manipular imagens em grande escala, isso poderá muito bem destruir o compartilhamento de hash como solução”, disse Adam Hadley, diretor executivo da TechAgainstTerrorism, à WIRED. "Este é um risco enorme."

As grandes plataformas tecnológicas trabalham há anos para criar bases de dados de conteúdos extremistas violentos conhecidos, as chamadas bases de dados hash, que são partilhadas entre plataformas para remover rápida e automaticamente esse tipo de conteúdo da Internet. Mas, de acordo com Hadley, seus colegas estão descobrindo agora cerca de 5.000 casos de conteúdo gerado por IA todas as semanas. Incluem imagens partilhadas nas últimas semanas por grupos ligados ao Hezbollah e ao Hamas que parecem ter como objetivo influenciar a narrativa em torno da guerra Israel-Hamas.

“Em cerca de seis meses, a possibilidade de que [eles] estejam manipulando imagens para quebrar algoritmos de hash é realmente preocupante”, disse Hadley. “A comunidade tecnológica tem feito um trabalho tão bom na construção de tecnologias automatizadas que os terroristas podem muito bem começar a usar a IA genética para contornar o trabalho que já foi feito”.

Outros exemplos descobertos por pesquisadores do TechTerrorism nos últimos meses incluem um canal de mensagens neonazistas que compartilha imagens geradas por IA criadas usando avisos racistas e antissemitas colados em aplicativos na Google Play Store; e um indivíduo de extrema direita criando um “guia de guerra de memória” aconselhando outros sobre como usar ferramentas de imagens geradas por IA para criar memorandos extremistas. O "Estado Islâmico" lançou um guia de suporte técnico sobre como usar com segurança ferramentas geradas por IA; um usuário do serviço de arquivamento pró-Estado Islâmico alegou ter usado um sistema de reconhecimento automático de fala (ASR) baseado em IA para transcrever a propaganda árabe do Estado Islâmico; e um meio de comunicação pró-Al Qaeda publicou vários cartazes com imagens que provavelmente foram criadas usando uma plataforma gerada por IA.

Além de detalhar a ameaça representada pelas ferramentas generativas de IA que podem ajustar imagens, o TechTerrorism publicou um novo relatório listando outras maneiras pelas quais as ferramentas genéticas de IA poderiam ser usadas para ajudar grupos extremistas. Isso inclui a capacidade de converter conteúdo promocional em vários idiomas de forma rápida e fácil usando ferramentas de tradução automática ou a capacidade de criar mensagens personalizadas em grande escala para impulsionar os esforços de recrutamento online. Mas Hadley acredita que a inteligência artificial também proporciona uma oportunidade para estarmos um passo à frente dos grupos extremistas e utilizarmos a tecnologia para prevenir ataques.

“Trabalharemos com a Microsoft para investigar se existem maneiras de usar nossos arquivos de dados para criar um sistema de detecção genética de IA para combater a ameaça emergente de IA genética ser usada em larga escala para conteúdo terrorista”, disse Hadley. “Acreditamos que a IA genética pode ser usada para defesa contra usos hostis da IA ​​genética”.

A parceria foi anunciada hoje antes da Cúpula de Líderes da Christchurch Call, em Paris. A Cúpula de Chamada para Líderes de Christchurch é uma campanha para livrar a Internet de conteúdo terrorista e extremista.

“O uso de plataformas digitais para espalhar conteúdo extremista violento é uma questão urgente com consequências no mundo real”, disse o vice-presidente e presidente da Microsoft, Brad Smith, em comunicado. “Ao combinar as capacidades de contraterrorismo da tecnologia com a inteligência artificial, esperamos ajudar a criar um mundo mais seguro, tanto online como offline.”

Embora empresas como a Microsoft, a Google e o Facebook tenham as suas próprias divisões de investigação em IA e provavelmente já estejam a implementar os seus próprios recursos para resolver o problema, a nova iniciativa acabará por ajudar as empresas que não conseguem resolver estas questões por si próprias.

“Isso é especialmente importante para plataformas menores que não possuem seus próprios centros de pesquisa de IA”, disse Hadley. “Mesmo agora, com bancos de dados hash, plataformas menores podem ser inundadas com esse conteúdo”.

A ameaça do conteúdo gerado pela IA não se limita aos grupos extremistas. No mês passado, a Internet Watch Foundation, uma organização britânica sem fins lucrativos dedicada a erradicar conteúdos de exploração infantil da Internet, divulgou um relatório detalhando o número crescente de material de abuso sexual infantil (CSAM) criado por ferramentas de inteligência artificial na dark web.

Os pesquisadores descobriram que, em apenas um mês, mais de 20.000 imagens geradas por IA foram postadas em um fórum CSAM da dark web, 11.108 das quais foram julgadas pelos pesquisadores da IWF como as mais propensas a serem criminosas. Como escreveram os pesquisadores da IWF no relatório: “Essas imagens de inteligência artificial podem ser tão convincentes que são indistinguíveis das imagens reais”.