O YouTube está a reforçar a identificação e a gestão de vídeos gerados por IA e já não depende apenas da divulgação voluntária por parte dos criadores. A empresa anunciou recentemente que seu sistema interno detectará e rotulará automaticamente vídeos usando a tecnologia de "IA imersiva significativa" a partir de maio, incluindo vídeos longos e vídeos curtos, e a posição e destaque de tags relevantes também serão melhoradas simultaneamente.
De acordo com informações divulgadas pelo YouTube, a plataforma utiliza rótulos de conteúdo de IA há mais de dois anos. Anteriormente, exigia principalmente que os criadores declarassem por meio de ferramentas do Estúdio de Criação: se o vídeo contiver conteúdo de IA que pudesse ser confundido com pessoas reais, lugares reais ou eventos reais, ele deveria ser divulgado; enquanto o conteúdo que é obviamente de fantasia, desenho animado ou confuso de forma irrealista, como unicórnios correndo em um mundo fictício, está isento de rotulagem. O YouTube afirmou que a atual política de rotulagem de IA em si não mudou, mas a plataforma mudará de “exigir que os criadores se auto-relatem” para um modelo de governança mais ativo de “identificação ativa da plataforma + cooperação do criador”.
Essa mudança ocorre logo após o lançamento do modelo multimodal Gemini Omni pelo Google em sua conferência de desenvolvedores de I/O. Gemini Omni pode gerar vídeos de alta qualidade que compreendem contextos complexos como física, cultura, história e ciência, levantando preocupações sobre a maior proliferação de vídeos imersivos de IA. O YouTube disse que usará novos sinais internos para identificar conteúdo gerado por IA e rotulá-lo automaticamente. Mesmo que o criador se esqueça ou se recuse a divulgá-lo, o sistema irá rotulá-lo em seu nome.
Em termos de correção de rotulagem, se os criadores acreditarem que seu conteúdo foi mal interpretado como um vídeo de IA, eles poderão atualizar o status de divulgação no vídeo. No entanto, se o conteúdo for gerado pelas próprias ferramentas de IA do YouTube (como Veo ou Dream Screen), o criador não tem o direito de remover o rótulo de IA adicionado pela plataforma. Além disso, quando um vídeo contém metadados C2PA e parece ter sido totalmente gerado por IA, as tags associadas serão permanentemente anexadas ao vídeo. Atualmente, a OpenAI anunciou seu suporte ao padrão C2PA, e organizações como NVIDIA, Kakao e Eleven Labs também se juntaram a este grupo para promover a rastreabilidade do conteúdo de IA.
Antes do lançamento da detecção e anotação automáticas, o YouTube expandiu o escopo de suas ferramentas de detecção de AI deepfake. A ferramenta de verificação de correspondência facial da plataforma, que originalmente estava disponível apenas para teste para celebridades, figuras públicas, políticos e alguns criadores, agora pode ser usada por qualquer adulto para verificar se sua imagem no YouTube foi sintetizada artificialmente ou personificada por IA. Nesta base, o YouTube acredita que é necessário expandir simultaneamente o alcance e a intensidade da rotulagem automática de conteúdo de IA.
O YouTube também ajustará o posicionamento dos rótulos para torná-los mais visíveis e consistentes. Anteriormente, os rótulos de IA geralmente ficavam ocultos na coluna de descrição expandida e só eram exibidos com destaque na parte superior da tela do vídeo quando o vídeo envolvia questões delicadas, como saúde e notícias. Após a revisão, para vídeos longos, a tag AI será exibida de forma fixa diretamente abaixo do player e acima do texto de descrição do vídeo; para vídeos de Shorts, ele será sobreposto diretamente ao vídeo. A plataforma afirmou que este design permite aos usuários identificar rapidamente o conteúdo imersivo que foi modificado pela IA ou gerado pela IA.
Para vídeos levemente modificados pela IA, animados ou claramente irrealistas (como a cena de unicórnio de fantasia mencionada acima), o YouTube ainda colocará o rótulo na descrição da expansão, em vez de abaixo do player ou sobrepondo-o, para evitar interrupções desnecessárias na experiência de visualização. Vale ressaltar que o YouTube enfatiza que a tag de IA em si não afetará o algoritmo de recomendação de vídeo, nem enfraquecerá sua capacidade de monetização, ou seja, trabalhos marcados como conteúdo de IA ainda poderão participar normalmente da distribuição e da receita publicitária.
Ao mesmo tempo que fortalece o gerenciamento de conteúdo de IA, o YouTube também continua a usar a tecnologia de IA para inovação de produtos e atualizações de recursos. A plataforma já testou e lançou uma série de recursos de IA, incluindo a função de pesquisa interativa "Ask YouTube", um gerador de lista de reprodução de IA para assinantes do YouTube Music, resumo automático de vídeos por IA e uma série de ferramentas de criação generativa e ferramentas de geração de música por IA para Shorts e criadores. Para o YouTube, como encontrar um equilíbrio entre a utilização da IA para promover o desenvolvimento de produtos e a prevenção do risco de abuso da IA está a tornar-se uma das questões-chave na sua estratégia futura.