Meta lançou recentemente oficialmente um novo sistema de detecção de conteúdo de IA "Content Seal", que visa incorporar marcas d'água invisíveis em imagens criadas pelos modelos de geração de IA mais recentes da empresa (como Muse), ajudando assim os internautas a distinguir conteúdo real de falsificações profundas. No entanto, o lançamento deste novo sistema não recebeu elogios da indústria. Em vez disso, gerou dúvidas generalizadas sobre a sua necessidade e praticidade.

Entende-se que o princípio básico de funcionamento do Content Seal é semelhante ao do GoogleSynthIDSemelhante às credenciais de conteúdo do C2PA, os sinais de rastreabilidade invisíveis a olho nu são incorporados ao conteúdo gerado por IA. Mesmo que a imagem seja cortada, compactada, redimensionada ou capturada de tela, a marca d'água ainda pode ser reconhecida pelas ferramentas de detecção. Embora a sua lógica funcional se sobreponha fortemente aos padrões existentes, a Meta não optou por aderir ao ecossistema maduro apoiado por vários gigantes, mas decidiu criar de forma independente um novo sistema exclusivo.

A análise apontou que o Content Seal expôs muitas limitações óbvias nesta fase. Em primeiro lugar, os usuários atualmente só podem passar no teste que o Meta está testandoFerramentas web proprietáriaspara testes, o Meta ainda não está tãoGoogle faz isso em GêmeosIntegrando esta capacidade de detecção diretamente em seu principal produto chatbot. Em segundo lugar, esta marca d'água atualmente só é aplicável a imagens geradas pelo modelo Muse em aplicativos e sites Meta AI. Não só é incapaz de cobrir os modelos anteriores de IA do Meta, mas o suporte para conteúdo de vídeo gerado ainda não foi lançado.

Além disso, o Meta também impõe um limite de uso diário da ferramenta de detecção para evitar abusos maliciosos do sistema, o que contrasta fortemente com o padrão C2PA que não define limites de consulta. Testes de mídia relevantes também mostram que a taxa de sucesso de detecção do Content Seal é baixa quando confrontado com imagens cortadas. A indústria geralmente acredita que com a onda de IA generativa varrendo o mundo, a Meta lançou este sistema autodesenvolvido com funções limitadas e início tardio. Não só não conseguiu melhorar efetivamente a transparência da IA ​​​​em toda a rede, mas, em vez disso, adicionou obstáculos desnecessários para que os usuários convencionais verificassem a autenticidade do conteúdo.