Hoje, as notícias da CCTV expuseram o caos das vozes de clonagem de IA. Em uma determinada plataforma social,Um blogueiro usou IA para falsificar a voz do campeão olímpico Quan Hongchan para vender ovos locais.Ao mesmo tempo, as vozes de Sun Yingsha e Wang Chuqin também foram “clonadas” e usadas para promover “Ovos locais de Chanbaojia” de maneira de alto nível.

"Quanhongchan", que foi falsificado pela IA, disse no vídeo que trouxe a mercadoria: "Eu sou sua Chanbao. Preciso da sua ajuda hoje. Chanmei quer ajudar sua mãe e melhorar a vida de sua família. Ao mesmo tempo, ela compartilhará os ovos locais de sua cidade natal com seus fãs para experimentar. Hoje, ela permitirá que sua mãe retire 300 ovos locais de sua cidade natal como um bem-estar para todos."

A área de comentários mostrou que muitos internautas pensaram erroneamente que este era o próprio campeão olímpico e fizeram pedidos para comprá-lo.

Além disso, os blogueiros "clonam" as vozes do ator Jin Dong e de outros para transmissão de voz ao vivo 24 horas por dia.

De acordo com o relatório, a investigação do repórter descobriu queVocê pode encontrar facilmente um grande número de tutoriais e informações de download de software para sons de clonagem de IA em plataformas online.

Alguns vendedores chegaram a dizer que a voz de qualquer pessoa pode ser facilmente “clonada”, desde que tenha um minuto de material.

Entende-se que, a fim de padronizar ainda mais o uso de conteúdo gerado por IA e facilitar aos usuários uma melhor identificação do conteúdo virtual, a Administração do Ciberespaço da China e outros quatro departamentos emitiram conjuntamente as "Medidas de Rotulagem para Conteúdo Sintético Gerado por Inteligência Artificial" (referidas como "Medidas de Rotulagem"), que estão programadas para serem implementadas oficialmente em 1º de setembro de 2025.

As “Medidas de Identificação” esclarecem que os prestadores de serviços devem adicionar identificação explícita ao conteúdo sintético gerado, como texto, áudio, imagens, vídeos, cenas virtuais, etc.Ao fornecer funções como download, cópia e exportação de conteúdo sintético gerado, deve-se garantir que o arquivo contenha uma identificação explícita que atenda aos requisitos; a identificação implícita deve ser adicionada aos metadados do arquivo que gera conteúdo sintético.