Os hackers afirmam que usaram o chatbot com tecnologia de IA da Meta para comprometer com sucesso várias contas de alto perfil do Instagram, pedindo diretamente ao bot para alterar o endereço de e-mail associado à conta de destino para um novo. As alegações são consistentes com uma série de recentes aquisições de contas de mídia social, incluindo as da Casa Branca de Barack Obama, do sargento-chefe da Força Espacial dos EUA e da Sephora.
O relatório apontou que este incidente expôs os enormes riscos de confiar excessivamente serviços de suporte ou funções-chave a chatbots de IA. As vítimas disseram que depois que suas contas foram roubadas, elas quase não tiveram como mudar para o processamento manual e só conseguiram lidar com sistemas automatizados. A Meta anunciou em março deste ano que estava implementando suporte de IA para todas as contas do Facebook e Instagram e dando-lhes a capacidade de redefinir senhas e realizar outras operações importantes de manutenção de contas. A página do produto ainda dizia “Soluções, não apenas sugestões” e “Segurança e recuperação de contas”.
Nos últimos dias, pesquisadores de segurança e grupos de hackers têm circulado vídeos e capturas de tela no Telegram mostrando o processo aparentemente simples de hackear contas. Um dos vídeos mostra o hacker conversando com o bot baseado em IA do Meta e, em seguida, pedindo-lhe para vincular a conta alvo a um novo endereço de e-mail e fornecer diretamente o nome de usuário alvo, como enviar o código de verificação e o endereço de e-mail do invasor. O relatório acredita que tais casos ilustram que, se a IA for utilizada para lidar com operações de contas altamente sensíveis, as consequências podem ser muito graves quando ocorrerem falsificações imediatas de palavras ou lacunas no processo.