Resumo:
O acesso ilegal a modelos de IA e ao poder computacional está rapidamente se tornando a mercadoria mais popular no submundo do crime cibernético. Os hackers tentam explorar modelos de linguagem grandes e caros para chantagem, guerra e espionagem. John Hultquist, analista principal do Google Threat Intelligence Group, disse que o grupo de segurança cibernética viu um aumento significativo nos chamados ataques de “LLM-jacking” este ano, que incluem a venda de credenciais de login roubadas para ferramentas públicas de IA e grupos que roubam recursos de computação para executar seus próprios modelos gratuitamente.
“O que estamos vendo no mercado clandestino é uma economia crescente em torno do acesso à IA”, disse Hultquist, um veterano com 20 anos de segurança cibernética.
A Hultquist alertou que a obtenção de recursos de IA dispendiosos a baixo custo dará aos ciberataques uma vantagem financeira sobre os seus alvos, que também precisam de utilizar estas ferramentas de IA para se protegerem.
Ele disse: "No final das contas, todas essas ações dão a eles algum tipo de vantagem econômica ou de eficiência sobre nós, porque eles podem realmente obter esses tokens a um preço muito mais barato."
Pesquisadores da Unidade de Inteligência de Ameaças do Google descobriram que alguns mercados na dark web estão vendendo acesso a modelos de IA de empresas como Anthropic, Google e OpenAI com descontos de até 97%. As versões mais avançadas dos serviços de assinatura de IA do ChatGPT e Claude custam até US$ 200 por usuário por mês.
Dado que o AI Labs monitora sinais de tal abuso, alguns vendedores estão até oferecendo “acesso garantido”, prometendo novas credenciais de login gratuitamente se a conta original for banida, disse Hultquist.
Em outros casos, gangues criminosas e organizações apoiadas pelo Estado invadem servidores hospedados por empresas na nuvem e implantam seus próprios modelos de IA para execução em sistemas alvo. Essa abordagem é semelhante às tentativas anteriores de agentes de ameaças de comprometer computadores de terceiros para mineração de criptomoedas.
A IA já é utilizada por "todos os atores de ameaças", disse Hultquist, acrescentando que as ferramentas de IA devem tornar-se parte integrante dos sistemas de segurança cibernética no futuro. No relatório trimestral mais recente da Anthropic sobre abuso de IA, a empresa descobriu que agentes de ameaças de mais de 20 países, incluindo os Estados Unidos, o Reino Unido e o Iémen, tentaram usar a sua ferramenta Claude para atividades maliciosas.
Ele disse: "Qualquer pessoa que pensa que a IA é apenas uma moda passageira e deseja que ela desapareça, um dia acordará e descobrirá que foi sobrecarregada. Enfrentará mais incidentes de segurança, mais alertas e mais ataques do que nunca. Devemos cuidar de nossos próprios assuntos agora."
A Hultquist alertou que, à medida que mais e mais grandes empresas procuram implementar modelos de IA personalizados nos seus próprios servidores, em vez de alugarem capacidade computacional a fornecedores de serviços em nuvem, estes próprios sistemas também se tornarão alvos de ataques e deverão ser protegidos de perto. "Se você está pagando pelo poder computacional, e o poder computacional pode ser muito caro... então isso se torna um recurso potencial muito atraente aos olhos dos atores da ameaça."
Hultquist também disse que agora é o melhor momento para os hackers "se infiltrarem" nas contas e servidores de computador alvo, porque as empresas ainda estão descobrindo quantos recursos de IA usarão.
Ele disse: "Você pode pensar que um grande e repentino aumento no uso de energia computacional é completamente normal porque você acabou de implantar muita infraestrutura de IA. Isso dá a algumas pessoas a oportunidade de se esconderem no meio do barulho."
Comentários