Grupo de consumidores britânico Qual? descobriram que os golpistas poderiam usar ChatGPT e Bard para criar golpes mais convincentes, representando uma ameaça ao público. Embora esses chatbots tenham defesas, não é difícil contorná-las.
Qual? diz que uma das maneiras pelas quais os consumidores podem identificar e-mails e textos fraudulentos é por meio do inglês ruim que usam. No entanto, com o advento dos chatbots generativos de IA, os golpistas podem facilmente superar esse obstáculo.
O grupo de consumidores primeiro pediu ao ChatGPT para criar um e-mail de phishing do PayPal, mas é claro que o ChatGPT se recusou a ajudar. Em seguida, ele pede para “informar ao destinatário que alguém está conectado à sua conta do PayPal”, para o qual gera um e-mail com aparência profissional intitulado “Aviso de segurança importante – atividade incomum encontrada em sua conta do PayPal”.
Para garantir que não fosse um caso isolado, também pediu ao ChatGPT e à Bard que criassem mensagens de texto de pacotes perdidos, que geraram mensagens de texto convincentes e sugeriram a inserção de um link de reenvio na mensagem de texto que os fraudadores poderiam usar para enviar as vítimas a sites maliciosos.
A pesquisa do Which? não é acidental - está sendo lançada para coincidir com a Cúpula de Inteligência Artificial do Reino Unido, onde o governo, a indústria e os pesquisadores se reunirão para enfrentar os perigos da inteligência artificial cada vez mais inteligente.
Comentando a pesquisa, Qual? O Diretor de Política e Advocacia Rocio Concha disse:
“A nossa investigação ilustra claramente como esta nova tecnologia está a tornar mais fácil para os criminosos fraudarem as pessoas. A próxima cimeira de IA do governo deve considerar como proteger as pessoas dos danos que acontecem aqui e agora, em vez de se concentrar apenas nos riscos a longo prazo da IA de ponta”.
A Cúpula de Inteligência Artificial será realizada no Reino Unido nos dias 1 e 2 de novembro. Segundo a Reuters, um dos últimos acontecimentos é que a China decidiu aceitar um convite para participar no evento. Isso é bom porque várias empresas chinesas estão atualmente desenvolvendo seus próprios chatbots genAI.