Imagens de abuso sexual infantil geradas por inteligência artificial estão se tornando “seu pior pesadelo” e ameaçam sobrecarregar a Internet, alertou um órgão de segurança. A Internet Watch Foundation (IWF) disse ter descoberto quase 3.000 imagens de abuso geradas por IA que claramente violavam a lei do Reino Unido.

A organização sediada no Reino Unido disse que imagens existentes da vida real de vítimas de abuso estão sendo inseridas em modelos de IA, que então geram novas representações.

O grupo acrescentou que a tecnologia também foi usada para criar imagens de celebridades que eram “rejuvenescidas” e depois retratadas como crianças em cenas de abuso sexual. Outros exemplos de material de abuso sexual infantil (CSAM) incluem o uso de ferramentas de inteligência artificial para imagens “nuas” de crianças vestidas encontradas online.

O Fórum Internacional das Mulheres alertou este verão que começavam a surgir provas de abusos causados ​​pela IA, mas afirmou que os últimos relatórios mostravam que a utilização da tecnologia estava a acelerar. A presidente-executiva da IWF, Susie Hargreaves, disse que "o pior pesadelo do cão de guarda se tornou realidade".

“No início deste ano, alertamos que as imagens de IA poderiam em breve tornar-se indistinguíveis de fotos reais de crianças vítimas de abuso sexual, e que poderíamos começar a ver tais imagens proliferando em maior número”, disse ela. "Já ultrapassamos essa fase. De forma assustadora, estamos a ver criminosos treinarem deliberadamente a sua IA em imagens de vítimas reais que foram abusadas. Crianças que foram violadas no passado estão agora a ser incluídas em novos cenários porque alguém, em algum lugar, quer ver isso."

O Fórum Internacional de Mulheres disse que também viu evidências de imagens geradas por IA sendo vendidas online. As últimas descobertas são baseadas em uma investigação de um mês em fóruns de abuso infantil na dark web. Investigou 11.108 imagens no fórum, 2.978 das quais infringiram a lei do Reino Unido ao retratar abuso sexual infantil.

O CSAM gerado por IA é ilegal ao abrigo da Lei de Proteção à Criança de 1978, que criminaliza a obtenção, distribuição e posse de “fotografias indecentes ou pseudofotografias” de crianças. O Fórum Internacional das Mulheres disse que a grande maioria do material ilegal encontrado violava a Lei de Proteção à Criança, com mais de um quinto das imagens classificadas como Categoria A, a categoria mais grave de conteúdo que pode retratar estupro e abuso sexual.

O Coroners and Justice Act 2009 também criminaliza imagens não fotográficas proibidas de crianças, como caricaturas ou desenhos. A IWF teme que uma onda de CSAMs gerados por IA distraia as agências de aplicação da lei da detecção de abusos reais e da ajuda às vítimas.

“Este material tem o potencial de sobrecarregar a Internet se não controlarmos esta ameaça”, disse Hargreaves.

Dan Sexton, diretor de tecnologia da IWF, disse que a ferramenta de geração de imagens StableDiffusion, um modelo de IA disponível publicamente que pode ser ajustado para ajudar a gerar CSAM, foi o único produto de IA discutido no fórum.

“Estamos vendo discussões sobre a criação de conteúdo usando StableDiffusion, que é um software disponível publicamente.”

StabilityAI, a empresa britânica por trás do StableDiffusion, disse que “proíbe o uso indevido de nossa plataforma para qualquer finalidade ilegal ou antiética, e nossas políticas afirmam claramente que isso inclui CSAM”.

O governo afirma que um projeto de lei de segurança cibernética que se tornará lei cobrirá o CSAM gerado por IA e exigirá que as empresas de mídia social evitem que ele apareça em suas plataformas.