Meta começará a anotar fotos geradas por IA enviadas ao Facebook, Instagram e Threads nos próximos meses, à medida que as eleições em todo o mundo se aproximam. A empresa também começará a penalizar os usuários que não divulgarem se os vídeos ou áudios da vida real foram produzidos por inteligência artificial.
Nick Clegg, presidente de assuntos globais da Meta, disse numa entrevista que estas medidas visam “incentivar” a indústria tecnológica à medida que a mídia gerada pela inteligência artificial se torna cada vez mais difícil de distinguir entre o verdadeiro e o falso. A Casa Branca tem pressionado fortemente as empresas para que marquem conteúdo gerado por IA. Enquanto isso, disse Clegg, a Meta está desenvolvendo ferramentas para detectar mídia sintética, mesmo que seus metadados tenham sido adulterados para obscurecer o papel da inteligência artificial em sua criação.
A Meta já coloca a marca d’água “Imagined with AI” em imagens geradas usando seu próprio gerador ImagineAI, e a empresa começará a aplicar a mesma marca d’água em fotos de IA geradas usando ferramentas do Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock. Clegg disse que a indústria está muito atrás de outras indústrias no estabelecimento de padrões para identificação de vídeo e áudio gerados por IA. Embora a Meta permaneça altamente vigilante sobre como esse tipo de mídia pode ser usado para enganar, a empresa não consegue capturar tudo sozinha.
Ele disse: "Permaneceremos altamente vigilantes com aqueles que estão preocupados com o fato de o conteúdo de vídeo e áudio ser projetado para enganar o público sobre questões políticas importantes que antecedem as eleições. Eu acho que é possível que, não importa quão rapidamente descoberto ou rotulado, ainda seremos inexplicavelmente acusados de estar fora da cadeia? Sim, acho que é possível, se não muito provável."
A Meta tem trabalhado com organizações como a Parceria para Inteligência Artificial para desenvolver iniciativas existentes de autenticidade de conteúdo. A Adobe lançou recentemente um sistema de credenciais de conteúdo que incorpora informações de proveniência do conteúdo em metadados de imagem. Depois de lançar uma versão beta da marca d'água SynthID para imagens, o Google a expandiu para arquivos de áudio.
Clegg disse que o Meta em breve começará a pedir aos usuários que divulguem postagens com vídeo ou áudio fotorrealista produzido com inteligência artificial. Se os usuários não divulgarem, disse ele, “estarão sujeitos a penalidades que vão desde advertências até a exclusão de postagens ofensivas”.
Já existem muitos exemplos de postagens virais de políticos geradas por IA, mas Clegg subestimou a probabilidade de o fenômeno assumir o controle da plataforma Meta em um ano eleitoral. “Não acho que veremos um vídeo ou áudio completamente sintético e politicamente significativo tão cedo”, disse ele. "Eu simplesmente não acho que será assim."
A Meta também começou a testar internamente o uso de grandes modelos de linguagem (LLMs) treinados de acordo com os padrões da comunidade, disse ele, descrevendo-o como um "mecanismo de triagem" eficiente para dezenas de milhares de revisores humanos. “Esta parece ser uma forma muito eficaz e bastante precisa de garantir que o conteúdo relatado aos nossos revisores humanos seja de fato o tipo de caso extremo que requer julgamento humano”, disse ele.