A Meta está processando uma empresa que promoveu um aplicativo generativo de inteligência artificial em sua plataforma de mídia social que permitiu aos usuários criar fotos falsas de nudez de outras pessoas sem o seu consentimento. Anteriormente,Notícias da CBSUm postado na semana passadainvestigaçãoCentenas de anúncios desses aplicativos de strip-tease digital foram encontrados nas plataformas Facebook, Messenger, Instagram e Threads da Meta, de acordo com o relatório. desta vezA acusação foi movida contra Joy Timeline.
“Esta ação legal sublinha a seriedade com que encaramos este tipo de abuso e o nosso compromisso de fazer tudo o que estiver ao nosso alcance para proteger a nossa comunidade dele”, disse Meta. “Continuaremos a tomar as medidas necessárias, incluindo ações legais, para combater este tipo de abuso da nossa plataforma.”
O processo da Meta busca especificamente impedir que a Joy Timeline, com sede em Hong Kong, liste anúncios do aplicativo de nudez CrushAI em sua plataforma de mídia social depois que a empresa “tentou repetidamente… contornar o processo de revisão de anúncios da Meta”.
A ação legal vem na esteira de uma investigação recente da CBS News que encontrou centenas de anúncios de aplicativos falsos de nudez na plataforma Meta. Meta disse à CBS na época que havia removido alguns desses anúncios, excluído as contas que os executavam e bloqueado URLs associados a esses aplicativos deepfake nus. Mas a Meta afirma que a aplicação das suas políticas está a tornar-se cada vez mais difícil à medida que as aplicações de IA geradoras de exploração continuam a encontrar novas formas de escapar à deteção. A CBS relata que anúncios da ferramenta AI deepfake nude ainda podem ser encontrados no Instagram depois que Meta removeu anúncios do aplicativo sinalizado em sua investigação.
Muitos dos anúncios descobertos pela CBS eram direcionados a homens com idades entre 18 e 65 anos nos Estados Unidos, Reino Unido e União Europeia. Além de violarem as políticas de segurança e moderação da plataforma Meta, as aplicações que “desnudam” digitalmente as pessoas sem o seu consentimento (a grande maioria das promoções dirigidas a mulheres e celebridades femininas) estão a impulsionar um aumento de esquemas de chantagem e “sextorsão”, muitas vezes caindo nas mãos de crianças.
A 404 Media publicou um relatório investigativo semelhante em abril de 2024, depois que a empresa descobriu a presença de ferramentas usadas para criar vídeos deepfake não consensuais de IA no Instagram. A Apple e o Google posteriormente removeram os aplicativos sinalizados no relatório de seus respectivos mercados de aplicativos. Em agosto de 2024, a cidade de São Francisco também entrou com uma ação judicial contra 16 dos sites deepfake de “strip” de IA mais visitados.