A Agência de Segurança Cibernética e de Infraestrutura dos EUA (CISA) está usando o modelo Mythos desenvolvido pela startup de inteligência artificial Anthropic para auditar o código de software do governo dos EUA, de acordo com três pessoas familiarizadas com o assunto.
A CISA está usando o modelo Myth para escanear repositórios de códigos governamentais em busca de falhas de software e vulnerabilidades de segurança que possam ser exploradas por agências de inteligência estrangeiras ou cibercriminosos, disseram fontes. Este trabalho é realizado pela equipe interna de "Avaliação de Superfície de Ataque" da CISA, especializada na realização de avaliações de segurança digital e simulações de exercícios de ataque e defesa para diversas agências governamentais. Duas das fontes disseram que as auditorias revelaram um grande número de vulnerabilidades, mas não divulgaram o número ou detalhes; não estava claro quanto código governamental a equipe cobriu ou a natureza e gravidade das vulnerabilidades encontradas.
Com relação a questões relacionadas, a Anthropic não respondeu aos pedidos de comentários dos repórteres. Um porta-voz da CISA disse no mês passado que confirmaria se o conteúdo poderia ser tornado público, mas não respondeu a novas perguntas por e-mail.
A Antrópico teve um relacionamento tumultuado com o governo dos EUA. Em Fevereiro, a empresa sediada em São Francisco entrou em conflito com o Pentágono devido à sua recusa em remover salvaguardas dos seus produtos que proibiam armas autónomas e vigilância doméstica. O Departamento de Defesa dos EUA posteriormente designou a Anthropic como um “risco formal da cadeia de suprimentos”, um rótulo geralmente reservado para empresas estrangeiras suspeitas de ajudar na espionagem estrangeira. Esta medida sem precedentes de “lista negra” foi interrompida por um juiz em Março e as relações entre as duas partes melhoraram desde então.
Um ponto-chave no relaxamento foi o lançamento privado do modelo “Mito” pela Anthropic ao governo. Este sistema de inteligência artificial foi descrito como “extremamente capaz” de descobrir e explorar vulnerabilidades de segurança de rede. De acordo com relatos anteriores da mídia, a Agência de Segurança Nacional dos EUA (NSA) começou a usar o "Mito" no trabalho real já em abril, embora a Anthropic ainda estivesse na lista negra naquela época. O New York Times citou fontes que afirmaram que alguns analistas da NSA que testaram o Mito num ambiente ultra-secreto ficaram impressionados com as suas capacidades.
Ao mesmo tempo, a Anthropic também lançou uma versão pública de “Myth” chamada “Fable”. Este modelo público possui proteção de segurança de rede adicionada ao seu design, restringindo os usuários de utilizá-lo diretamente para realizar ataques reais. Mas logo depois que “Fable” foi lançado, a Casa Branca pediu repentinamente à Anthropic que proibisse o acesso de usuários estrangeiros ao modelo. O pedido desencadeou um bloqueio global de acesso ao modelo Fable, e foi apenas na semana passada que o governo dos EUA suspendeu oficialmente as restrições de controle de exportação do modelo. Atualmente, o governo dos EUA continua a testar e avaliar a tecnologia da Anthropic dentro das suas agências de segurança nacional, ao mesmo tempo que mantém um jogo delicado com a empresa sobre os limites regulamentares e de segurança.