Imagens geradas por inteligência artificial e outras formas de deepfakes que retratam o abuso sexual infantil (CSA) podem ser criminalizadas na UE, anunciou hoje a Comissão Europeia, no âmbito dos planos para atualizar a legislação existente para acompanhar a evolução tecnológica. A UE também propôs tornar a transmissão em direto de abuso sexual de crianças um novo crime. A posse e a troca de "manuais de pedófilos" também serão criminalizadas no âmbito do plano - que a UE afirma fazer parte de um pacote mais amplo de medidas destinadas a reforçar a prevenção do abuso sexual infantil, incluindo a sensibilização para os riscos online e a facilitação às vítimas da denúncia de crimes e do acesso ao apoio (incluindo a concessão do direito a uma compensação financeira).
As atuais regras da UE nesta área datam de 2011 e as propostas para as atualizar também incluem alterações à notificação obrigatória de violações.
Em maio de 2022, a Comissão apresentou um projeto separado de legislação relacionada com CSA que visa estabelecer um quadro ao abrigo do qual os serviços digitais devem utilizar tecnologia automatizada para detetar e denunciar material de abuso sexual infantil (CSAM) existente ou novo que circule nas suas plataformas, e para identificar e denunciar o aliciamento de crianças.
O esquema de digitalização CSAM revelou-se extremamente controverso - continua a dividir os legisladores no Parlamento e no Conselho da UE, ao mesmo tempo que levanta suspeitas sobre a relação entre a Comissão Europeia e os lobistas da tecnologia de segurança infantil e levanta outras questões embaraçosas para o executivo da UE, como a campanha publicitária microdirecionada, legalmente questionável, usada para promover a proposta.
A decisão da Comissão Europeia de dar prioridade às plataformas de informação digital para abordar a CSA suscitou críticas de que os legisladores da UE estão a concentrar-se nas áreas erradas ao abordar esta questão social complexa - o que pode ter criado alguma pressão para a Comissão fazer recomendações de acompanhamento. (É claro que a Comissão Europeia não disse isso, chamando o pacote de hoje de um “complemento” à sua proposta anterior de digitalização CSAM).
Ainda assim, mesmo nos menos de dois anos desde que o controverso programa de digitalização de informações privadas foi proposto, as preocupações sobre os riscos de deepfakes e imagens geradas por IA aumentaram significativamente, incluindo preocupações de que a tecnologia poderia ser utilizada indevidamente para produzir CSAMs e preocupações de que tal conteúdo sintético tornaria mais difícil para as autoridades a identificação de vítimas reais. Assim, o boom viral na tecnologia gerada pela IA está claramente a levar os legisladores a rever as regras.
“O aumento do número de crianças online e o desenvolvimento da tecnologia criaram novas possibilidades de abuso”, afirmou hoje o comité num comunicado de imprensa. O comité também afirmou que a proposta visa “reduzir a impunidade que permeia o abuso sexual e a exploração de crianças online”.
A comissão realizou uma avaliação de impacto antes de apresentar a proposta e concluiu que o aumento do número de crianças online e “os mais recentes desenvolvimentos tecnológicos” criaram novas oportunidades para a ocorrência de CSA. A Comissão também disse estar preocupada com o facto de as diferenças nos quadros jurídicos dos Estados-Membros poderem dificultar as ações de combate aos abusos e querer melhorar os atuais esforços "limitados" para prevenir a CSA e ajudar as vítimas.
Numa declaração de apoio, a Comissária dos Assuntos Internos, Ylva Johansson, acrescentou: “As tecnologias em rápida evolução estão a criar novas possibilidades para o abuso sexual de crianças em linha e a criar desafios para as autoridades que investigam este crime extremamente grave e generalizado.
No que diz respeito aos riscos de segurança online para as crianças, a proposta da Comissão visa incentivar os Estados-Membros a investirem mais na "sensibilização".
Tal como acontece com o programa de verificação CSAM, os colegisladores do Parlamento e do Conselho da UE decidirão sobre a forma final da proposta. O tempo para negociações antes das eleições parlamentares e do reinício do comité de comissários no final deste ano é limitado, embora as propostas de hoje de repressão do CSA sejam provavelmente menos controversas do que o plano de digitalização de informações. Portanto, há uma chance de que esse plano seja aprovado enquanto outro plano fica paralisado.
De acordo com a Comissão Europeia, se/assim que houver acordo sobre como alterar a actual directiva para combater a CSA, a directiva entrará em vigor 20 dias após a publicação no Jornal Oficial da União Europeia.