Depois que as eleições primárias do mês passado viram uma mensagem projetada para soar como a voz do presidente dos EUA, Joe Biden, dizendo aos residentes de New Hampshire para não votarem, a Comissão Federal de Comunicações (FCC) está agindo para tornar ilegal o uso de vozes geradas por inteligência artificial para chamadas automáticas. A agência está preocupada com o fato de a tecnologia deepfake de áudio estar sendo usada para confundir e enganar os consumidores, imitando as vozes de “celebridades, candidatos políticos e parentes próximos”.
A proposta da presidente da FCC, Jessica Rosenworcel, tornaria ilegal, de acordo com a Lei de Proteção ao Consumidor Telefônico (TCPA), o uso de vozes geradas por inteligência artificial para fazer chamadas.
A lei TCPA de 1991 restringe o telemarketing, o uso de sistemas de discagem telefônica automática e mensagens de voz artificiais ou pré-gravadas. A lei também exige que os operadores de telemarketing obtenham o consentimento expresso por escrito dos consumidores antes de fazer chamadas de voz para os consumidores. A FCC deseja que os sons gerados por IA também sigam esses padrões. A expectativa é que os cinco membros do comitê votem a proposta nas próximas semanas.
“Clones de voz e imagens geradas por IA já estão semeando a confusão, enganando os consumidores, fazendo-os pensar que golpes e fraudes são legítimos”, disse Rosenworcel em um comunicado. “Não importa de qual celebridade ou político você goste ou qual seja seu relacionamento com seus parentes, todos nós provavelmente seremos alvo dessas ligações falsas quando pedirem ajuda.”
A empresa de detecção de fraude de fala Pindrop analisou a mensagem falsa de 39 segundos que parecia Biden dizendo aos residentes de New Hampshire para não votarem e descobriu que ela foi criada usando o mecanismo de conversão de texto em fala da ElevenLabs. A startup usa software de inteligência artificial para replicar os sons de mais de duas dezenas de idiomas.
Segundo a Bloomberg, a ElevenLabs confirmou que seu software foi usado no incidente de New Hampshire e baniu a conta responsável. O Gabinete do Procurador-Geral de New Hampshire anunciou uma investigação sobre telefonemas de pessoas que se passaram por Biden.
Um porta-voz da FCC disse que possíveis mudanças na lei dariam aos procuradores-gerais estaduais novos poderes para reprimir golpistas de chamadas de voz que usam inteligência artificial, ao mesmo tempo que protegeriam os consumidores.
A FCC tem lutado contra chamadas automáticas há anos. Em dezembro de 2022, a Comissão Federal de Comunicações propôs uma multa de US$ 300 milhões contra uma operação multinacional ilegal de chamadas automáticas que realizou mais de 5 bilhões de chamadas automáticas para mais de 500 milhões de números de telefone em um período de três meses em 2021. Em 2020, a agência também impôs US$ 225 milhões em multas por chamadas automáticas enganosas.
Gerar as vozes dos membros da família tornou-se um meio comum para os criminosos roubarem dinheiro de vítimas inocentes. Este crime continua a aumentar à medida que a tecnologia gerada pela IA se torna mais acessível, mais barata e mais convincente.