O braço de operações cibernéticas do Pentágono está formando uma força-tarefa para acelerar a adoção de ferramentas de inteligência artificial de ponta com poderosas capacidades de hacking, segundo três pessoas familiarizadas com o assunto. A medida do Comando Cibernético dos EUA, que ainda não foi divulgada publicamente, destaca as preocupações do Pentágono sobre o súbito surgimento de modelos de inteligência artificial desenvolvidos pelo setor privado que podem encontrar vulnerabilidades na segurança dos sistemas digitais mais rapidamente do que os principais hackers do mundo.
O general Joshua Rudd, líder duplo da Agência de Segurança Nacional e do Comando Cibernético, anunciou a formação da força-tarefa aos funcionários há duas semanas em um e-mail interno, disseram ao POLITICO duas pessoas familiarizadas com o assunto. De acordo com o e-mail, o grupo de trabalho abrangerá o Comando Cibernético e a Agência de Segurança Nacional e examinará como o Pentágono pode implantar com segurança modelos líderes de inteligência artificial em todos os aspectos de suas missões. Isto inclui avaliar como os modelos de IA desenvolvidos pelos gigantes tecnológicos do Vale do Silício podem ser usados em sistemas “high-end” que transportam os segredos mais sensíveis da comunidade de inteligência.
A formação da força-tarefa ocorre no momento em que a gigante da inteligência artificial Anthropic anunciou há um mês que seu modelo mais recente, Claude Mythos, é tão bom em encontrar e explorar vulnerabilidades de rede que só será compartilhado com um pequeno grupo de defensores de rede confiáveis. A Antrópica alertou na época que se a ferramenta caísse em mãos erradas, poderia ter consequências “graves” para a economia, a segurança pública e a segurança nacional. Outras empresas líderes de inteligência artificial, incluindo a OpenAI, anunciaram desde então que possuem modelos com habilidades de hacking avançadas semelhantes e lançaram iniciativas semelhantes para restringir o acesso. As autoridades da Anthropic prevêem que modelos equivalentes estarão amplamente disponíveis dentro de seis a 24 meses, permitindo potencialmente que hackers pouco qualificados causem o caos digital em grande escala.
As preocupações sobre a proliferação de modelos avançados de IA levaram a uma acção de emergência por parte da Casa Branca, que está actualmente a elaborar uma ordem executiva que exige que laboratórios de IA de ponta, como a Anthropic, a OpenAI e a Google, submetam os seus modelos ao governo federal para testes antes de os divulgarem publicamente. Isto marca uma mudança significativa em relação à administração Trump, que anteriormente defendeu uma abordagem não intervencionista à regulamentação da IA.
Embora a força-tarefa não esteja diretamente ligada à próxima ordem executiva, espera-se que o Comando Cibernético e a Agência de Segurança Nacional desempenhem um papel central em quaisquer novas iniciativas relacionadas à segurança cibernética. A NSA, através do seu recentemente criado Centro de Segurança de Inteligência Artificial, já está a trabalhar com o Departamento de Comércio para estudar as capacidades cibernéticas de novos modelos de IA de ponta, um esforço que pode ser expandido e codificado na nova ordem executiva. “O governo em geral está se apoiando na experiência técnica da NSA para descobrir ‘como podemos fazer isso com segurança’”, disse uma pessoa familiarizada com o assunto.
Qualquer potencial revisão federal garantiria que a comunidade de inteligência dos EUA compreendesse as capacidades destes novos modelos antes que adversários estrangeiros, como a Rússia e a China, obtivessem acesso. A NSA é responsável por interceptar comunicações estrangeiras e proteger a segurança do governo dos EUA, enquanto o Comando Cibernético é responsável pela defesa contra ataques digitais aos sistemas do Departamento de Defesa e pelo apoio às operações militares.
No e-mail, Rudd disse que a força-tarefa recorreria à experiência do Centro de Segurança de Inteligência Artificial da Agência de Segurança Nacional e designaria um comandante do Comando Cibernético para liderar a força-tarefa. Não está claro quão grande será a força-tarefa ou por quanto tempo ela poderá operar. Um ex-oficial sênior de segurança nacional disse que a criação da força-tarefa reflete a crença de Rudd de que tanto o Comando Cibernético quanto a Agência de Segurança Nacional precisam implantar mais rapidamente ferramentas de inteligência artificial em rápida evolução em suas redes. O responsável acrescentou que a atribuição de funções de liderança ao comandante do Comando Cibernético indica “mais domínio dos comandos combatentes, com a NSA a fornecer apoio”.
No entanto, grande parte da capacidade técnica da força-tarefa provavelmente virá da Agência de Segurança Nacional. A vasta agência de inteligência de sinais abriga alguns dos maiores talentos científicos e de informática do governo dos EUA, e o Cyber Command enfrenta problemas de gestão de talentos há anos. No início deste mês, o Pentágono anunciou que tinha assinado acordos com sete empresas tecnológicas, incluindo OpenAI e Google, para começar a utilizar os seus modelos de inteligência artificial em redes confidenciais.
A Antrópico está atualmente envolvida em uma disputa legal com o Pentágono, complicando a implantação mais ampla do Mythos em todo o governo federal. O Departamento de Defesa tomou a medida sem precedentes em Março de designar o Antrópico como um risco na cadeia de abastecimento depois de a empresa ter procurado limitar a utilização das suas ferramentas em guerra autónoma e operações de vigilância em massa. Um funcionário da Antrópico disse anteriormente que a empresa estava disposta a permitir que o governo dos EUA usasse o Mythos em operações cibernéticas ofensivas. Esta é uma direção que o Pentágono pode explorar, o que poderia pressionar o Departamento de Defesa para suspender a designação de risco da cadeia de abastecimento da Antrópico.
O tenente-general Charles Moore, ex-vice-comandante do Comando Cibernético, disse ao POLITICO que estava “ciente” dos planos do Comando Cibernético de estabelecer uma força-tarefa de inteligência artificial e disse que via isso como “não apenas uma boa ideia, mas uma necessidade”. “As ferramentas de inteligência artificial estão rapidamente a tornar-se uma necessidade para detectar ameaças, priorizar vulnerabilidades, acelerar a tomada de decisões e conduzir operações cibernéticas defensivas e ofensivas mais rapidamente do que os nossos adversários”, disse Moore. “Este grupo de trabalho pode ajudar a integrar a inteligência artificial nas operações, treinamento, inteligência e defesa cibernética, garantindo ao mesmo tempo que os Estados Unidos mantenham uma vantagem analítica sobre os nossos adversários.”
Trabalhar com o sector privado para melhorar as capacidades cibernéticas ofensivas do país está no centro da nova estratégia de segurança cibernética da administração Trump, lançada em Março. Na estratégia, a Casa Branca apela às agências federais para que adotem “soluções de segurança cibernética baseadas em inteligência artificial” para proteger as redes governamentais. A estratégia também diz que a administração Trump irá “libertar o setor privado” para ajudar a “expandir as nossas capacidades nacionais”, incluindo o ataque e a defesa cibernética.