Especialistas alertaram recentemente que a tecnologia de falsificação profunda de voz em tempo real amadureceu e está trazendo novos riscos à segurança da rede. Com a ampla disponibilidade de ferramentas de IA de código aberto e hardware acessível, os invasores podem usar a inteligência artificial para disfarçar e imitar a voz de qualquer pessoa em conversas em tempo real, rompendo as limitações técnicas anteriores que só conseguiam lidar com conteúdo pré-gravado ou exigiam longos tempos de processamento.
Uma nova pesquisa da empresa de segurança cibernética NCC Group mostra que, ao combinar um modelo de voz de IA com um laptop ou smartphone comum, a imitação de voz de alta qualidade em tempo real pode ser alcançada com apenas meio segundo de atraso. As operadoras podem iniciar a clonagem de voz em uma interface web personalizada com operações simples. Este método de ataque "deepfake voice phishing" pode ser concluído com uma placa gráfica de configuração inferior, e até mesmo o microfone de um dispositivo comum pode ser usado para obter efeitos suficientemente realistas.
A tecnologia anterior de falsificação profunda de voz geralmente requer muito tempo para treinar dados de voz, só pode gerar clipes pré-gravados e não é adequada para interação em tempo real. Esta inovação elimina completamente as pausas e a falta de resposta no processo de imitação de voz, melhorando significativamente a eficiência e a ocultação do ataque. Os consultores de segurança do Grupo NCC descobriram em testes reais que, quando combinado com falsificação de identificador de chamadas, esse tipo de ataque pode enganar o alvo quase sempre, e o risco de falsificação de identidade de verificação de voz por telefone aumenta significativamente.
Embora a falsificação profunda de voz em tempo real esteja se tornando cada vez mais realista, ainda existem obstáculos técnicos para o mesmo nível de falsificação profunda de vídeo em tempo real, como expressões faciais e voz fora de sincronia, que são fáceis de detectar. Por exemplo, especialistas disseram que uma empresa foi até fraudada por vídeos falsos de IA e enviou laptops para o endereço errado, mostrando que as chamadas de áudio e vídeo por si só não podem mais garantir a segurança da verificação de identidade.
À medida que as ferramentas de inteligência artificial se tornam mais populares, os especialistas apelam a métodos de verificação remota mais sofisticados, como a adição de sinais estruturados únicos ou códigos secretos às comunicações, para evitar ataques de engenharia social causados por deepfakes. Caso contrário, tanto os indivíduos como as organizações enfrentarão um risco maior de fraude de falsificação de IA.