Os legisladores dos EUA estão propondo permitir que as pessoas processem por imagens pornográficas falsas de si mesmas depois que fotos explícitas de Taylor Swift geradas por IA se tornaram virais. A Lei de Destruição da Falsificação Explícita de Imagens e Edição Não Consensual (DEFIANCE) criaria um direito civil de ação para "falsificação digital" que retrata as partes privadas de um indivíduo identificável sem o seu consentimento, permitindo que as vítimas busquem compensação financeira de qualquer pessoa que "produza ou possua conscientemente" uma imagem com a intenção de divulgá-la.

O projeto foi co-patrocinado por Dick Durbin (senador por Illinois), Lindsey Graham (senador pela Carolina do Sul), Amy Klobuchar (senador por Minnesota) e Josh Hawley (senador por Missouri). O projeto de lei baseia-se em uma disposição da Lei de Reautorização da Lei de Violência Contra as Mulheres de 2022, que acrescenta um direito de ação semelhante para imagens explícitas não fabricadas. Resumidamente, os patrocinadores descrevem-no como uma resposta ao aumento “exponencial” de imagens explícitas de IA manipuladas digitalmente, e apontam o caso de Swift como um exemplo de como imagens falsas “são usadas para explorar e assediar mulheres – particularmente figuras públicas, políticos e celebridades”.

Imagens pornográficas manipuladas por IA, muitas vezes chamadas de deepfakes, cresceram em popularidade e sofisticação desde que o termo foi cunhado em 2017. Ferramentas generativas de IA prontas para uso facilitam sua produção, mesmo em sistemas com proteções contra imagens explícitas ou falsificação de identidade, que têm sido usadas para assédio e extorsão.

Mas, até agora, não existem soluções legais claras em muitas partes do país. Quase todos os estados aprovaram leis que proíbem a pornografia não consensual e não simulada, embora o processo tenha sido lento. Existem muito menos leis relativas à geração de imagens analógicas. Mas faz parte da agenda regulatória de IA do presidente Joe Biden, e a secretária de imprensa da Casa Branca, Karine Jean-Pierre, está pedindo ao Congresso que aprove novas leis em resposta ao incidente de Taylor Swift na semana passada.

O projeto de lei “DEFIANCE” é proposto especificamente para imagens geradas por inteligência artificial, mas não se limita a essas imagens. O projeto de lei considera como fabricação qualquer imagem sexual íntima (um termo definido nas regras básicas) que pareça, para uma pessoa razoável, indistinguível de uma representação visual autêntica de um indivíduo por meio de "software, aprendizado de máquina, inteligência artificial ou qualquer outro meio gerado por computador ou tecnológico..." Isso inclui imagens autênticas que foram alteradas para serem sexualmente sugestivas. A frase parece se aplicar também a ferramentas mais antigas, como o Photoshop, desde que os resultados sejam suficientemente realistas. Adicionar um rótulo informando que uma imagem é falsa não isenta você de responsabilidade.

Os legisladores apresentaram uma série de projetos de lei que visam a inteligência artificial e a pornografia não consensual, mas a maioria ainda não foi aprovada. No início deste mês, os legisladores introduziram a Lei NoAIFRAUDAct, uma proibição extremamente ampla do uso de tecnologia para se passar por outras pessoas sem permissão. No entanto, uma regra única para a paródia levantaria enormes problemas para a expressão artística; poderia abrir a possibilidade de ações judiciais por parte de figuras poderosas por paródia política, reconstituição ou tratamento ficcional criativo.

DEFIANCE pode levantar algumas das mesmas questões, mas é muito mais restritivo – embora ainda enfrente uma difícil batalha para ser aprovado.