Em outubro de 2024, um grande número de vídeos de dublagem do CEO da Xiaomi, "Lei Jun", apareceram na plataforma de vídeos curtos, e vários vídeos de imitação e paródia de dublagem surgiram um após o outro. Na verdade, as vozes nesses vídeos não são do próprio Lei Jun, mas são dubladas pela IA.Desde o falsificador do empresário Lei Jun até a produção de áudio e vídeo do Dr. Zhang Wenhong por IA para vender produtos para si próprios, há até criminosos que usam a IA para sintetizar profundamente vídeos para cometer fraudes.
No ano passado, o fenômeno da violação de áudio e vídeo de síntese profunda de IA tornou-se cada vez mais sério.
Recentemente, a CCTV News expôs o caos do áudio e vídeo de celebridades sintetizados por IA.
Anteriormente, alguns internautas usavam a voz de Andy Lau produzida pela IA para obter tráfego para si próprios. A Andy Lau Film Company também emitiu uma declaração urgente para lembrar aos internautas que não caiam no golpe da tecnologia de síntese de voz de IA de forjar a voz de Andy Lau.
Uma investigação da CCTV News descobriu que não é difícil obter uma síntese profunda de áudio e vídeo por IA, e até mesmo em algumas plataformas de compras,A tecnologia de síntese profunda de IA tornou-se uma ferramenta lucrativa para muitas lojas online. Custa apenas dezenas de yuans para personalizar a síntese profunda de áudio e vídeo de celebridades por IA.
Especialistas disseram,As leis e regulamentos relevantes estipulam claramente que a síntese profunda, a produção e a divulgação de informações de outras pessoas são proibidas sem autorização.
As lojas online que recebem pedidos de síntese profunda de IA para produzir vídeos de celebridades já são infrações e deveriam assumir as responsabilidades legais correspondentes.
Além disso, não apenas celebridades, mas pessoas comuns e até imagens animadas, se usarem IA para sintetizar seu áudio e vídeo sem o consentimento da pessoa ou do proprietário dos direitos autorais, isso também poderá ser julgado como uma violação e deverá assumir responsabilidade legal.