O YouTube está estendendo sua nova tecnologia de “detecção de semelhança” à indústria do entretenimento para ajudar estrelas e suas equipes a identificar e remover conteúdo gerado por IA e vídeos deepfake da plataforma, divulgou a empresa em anúncio em seu site na terça-feira.
A ferramenta funciona de forma semelhante ao sistema existente de Content ID do YouTube, que detecta automaticamente material protegido por direitos autorais quando os usuários enviam vídeos, tornando mais fácil para os proprietários dos direitos autorais solicitarem a remoção ou participarem do compartilhamento de anúncios do vídeo. A detecção de retratos se concentra na identificação de rostos simulados e visa proteger criadores e outras figuras públicas de terem suas identidades exploradas sem permissão – por exemplo, retratos de celebridades sendo usados para publicidade fraudulenta, um problema que tem se tornado cada vez mais comum nos últimos anos.
A tecnologia do YouTube foi disponibilizada inicialmente para um grupo seleto de criadores como um programa piloto no ano passado e, desde então, tem sido gradualmente expandida. Nesta primavera, o YouTube expandiu sua cobertura para incluir políticos, funcionários do governo e jornalistas para ajudá-los a combater o abuso de deepfakes de IA. Agora, a empresa anunciou que esta ferramenta será estendida aos participantes da indústria do entretenimento, incluindo agências de talentos, empresas de gestão artística e artistas famosos que elas representam. Várias grandes agências de Hollywood – incluindo CAA, UTA, WME e Untitled Management – estiveram envolvidas no fornecimento de feedback e no aprimoramento da nova ferramenta.
Vale ressaltar que o artista não precisa ter um canal no YouTube para utilizar a ferramenta de detecção de semelhança. Nos bastidores, o sistema verifica o conteúdo gerado por IA na plataforma para detectar qualquer correspondência com as informações faciais dos participantes registrados. Depois que o conteúdo correspondente for encontrado, o usuário poderá optar por iniciar uma solicitação de remoção de acordo com a política de privacidade do YouTube, enviar uma solicitação de remoção por direitos autorais ou decidir não tomar nenhuma ação. No entanto, a plataforma também enfatizou que nem todos os vídeos relevantes serão removidos porque suas regras ainda permitem uma certa gama de paródias e sátiras.
O YouTube disse que esta tecnologia também será expandida para suportar a dimensão de áudio no futuro, o que significa que se espera que no futuro identifique e processe sons e outros conteúdos não autorizados sintetizados por IA. À medida que o produto evolui, o YouTube também defende proteções mais sistêmicas em nível federal, apoiando a "Lei NO FAKES" atualmente em discussão no Congresso dos EUA. O projeto de lei visa regular a reprodução não autorizada de vozes pessoais e retratos visuais utilizando tecnologia de inteligência artificial e fornecer limites legais mais claros para figuras públicas e usuários comuns.
Atualmente, o YouTube não divulgou quantas solicitações de remoção de conteúdo deepfake de IA a ferramenta processou até agora. No entanto, a empresa disse em março que o número de remoções desencadeadas pela ferramenta de detecção de retratos ainda era “muito baixo”. À medida que a tecnologia gerada pela IA aprofunda a sua penetração nas indústrias do entretenimento e da publicidade, cada vez mais figuras públicas, desde criadores, políticos a estrelas de cinema e televisão, começam a confiar em meios técnicos ao nível da plataforma para lidar com o risco de abuso das suas imagens e vozes.