O Meta Oversight Committee emitiu recentemente uma decisão apelando às empresas para que reforcem e esclareçam as regras regulamentares o mais rapidamente possível para lidar com a rápida proliferação de conteúdos gerados por IA e vídeos profundamente falsos em situações de alto risco, como guerras, desastres e eleições. A agência destacou que o Meta apresenta atualmente deficiências óbvias na rotulagem e identificação de conteúdo gerado por IA em grande escala, especialmente em tempos de conflito e crise, e esta falha pode enganar o público.
A crítica vem de um vídeo falso que apareceu na plataforma Meta no ano passado. O vídeo gerado por IA pretende mostrar imagens de danos a edifícios na cidade israelense de Haifa e foi postado por um usuário nas Filipinas se passando por fonte de notícias. Muitos usuários denunciaram o vídeo, mas a plataforma não conduziu uma revisão interna nem acionou um mecanismo de verificação de fatos de terceiros. O vídeo já estava online há muito tempo, mas não foi marcado como “conteúdo de IA de alto risco”. Não atraiu atenção até a intervenção do comitê de supervisão.
O papel do Comitê de Supervisão é melhorar o tratamento dado pela Meta aos usuários e à comunidade globalmente. O comité acredita que este caso expôs problemas sistémicos com o sistema de governação de conteúdos de IA da Meta em plataformas como Facebook, Instagram e Threads, que depende demasiado da divulgação voluntária dos utilizadores ou de processos internos de “atualização” e não pode corresponder à realidade atual do conteúdo de IA que se espalha a uma velocidade e escala alarmantes, especialmente durante guerras, desastres e eventos altamente politicamente sensíveis.
Atualmente, a rotulagem de conteúdo gerado por IA pela Meta depende em grande parte de o criador autodeclarar o uso de IA ou de o conteúdo ser escalado internamente para um processo de revisão especial. O Comité de Supervisão salientou que esta abordagem está longe de ser suficiente para lidar com a proliferação de deepfakes e meios de comunicação sintéticos na Internet, e é difícil lembrar prontamente aos utilizadores como o conteúdo é gerado e potencialmente enganoso.
Nas suas últimas recomendações, o Conselho de Supervisão pediu ao Meta que desenvolvesse um conjunto separado de padrões comunitários para conteúdos gerados por IA, em vez de continuar a depender de uma colcha de retalhos fragmentada de respostas políticas de desinformação. O comité defende que as regras para imagens, vídeos e áudios gerados por IA devem ser unificadas num quadro claro para que as plataformas possam fazer intervenções mais consistentes e transparentes em cenários de alto risco.
O comitê também recomendou que o Meta usasse o rótulo “IA de alto risco” com mais frequência para rotular de forma proeminente o conteúdo que poderia afetar a segurança pública, a opinião pública e as eleições. Ao mesmo tempo, as empresas precisam de melhorar ainda mais as capacidades dos sistemas de detecção automatizados para cobrir múltiplas formas de mídia, como imagens, vídeos e áudio, e explicar claramente aos usuários as penalidades específicas que aqueles que não divulgarem a síntese digital ou o conteúdo adulterado enfrentarão.
Em termos de fundamentos técnicos, o Comitê de Supervisão nomeou a estrutura da indústria de Credenciais de Conteúdo e acreditou que a Meta deveria adotar esse mecanismo de forma mais ativa e uniforme. Esta estrutura visa melhorar a rastreabilidade e a transparência do conteúdo, anexando metadados ao conteúdo para indicar a origem do material e se são utilizadas ferramentas de IA. O comité está preocupado com o facto de a Meta ser atualmente inconsistente na aplicação de tais padrões, incluindo na rotulagem do conteúdo gerado pelas suas próprias ferramentas de IA.
O Conselho de Supervisão já criticou as regras de "manipulação de mídia" do Meta como sendo muito confusas e de escopo muito restrito, concentrando-se demais em "se a IA é usada" em vez de "se o conteúdo é enganoso". Sob pressão, a Meta ajustou o sistema de rotulagem relevante e substituiu o rótulo original "Made with AI (made by AI)" pelo rótulo mais amplo "AI info (AI information)". No entanto, esta mudança também suscitou dúvidas do mundo exterior. Acredita-se que o prompt do novo rótulo seja muito geral e não seja atraente o suficiente, e os usuários podem facilmente ignorar as informações principais.
Na véspera da posse do atual presidente dos EUA, Donald Trump, o CEO da Meta, Mark Zuckerberg, anunciou que a parceria existente de verificação de fatos terceirizados da empresa havia se tornado "muito tendenciosa politicamente" e minava a confiança dos usuários na plataforma, e seria substituída por um mecanismo de Notas da Comunidade. Este ajuste significa que a plataforma dependerá ainda mais da rotulagem espontânea e da correção de erros por parte da comunidade de utilizadores na identificação e correção de informações incorretas. No contexto da rápida proliferação de conteúdos deepfake e de IA, esta estratégia também desencadeou um debate contínuo sobre a sua eficácia.