A Anthropic, uma startup americana de IA, foi recentemente apanhada numa tempestade regulamentar sem precedentes: acaba de anunciar há 10 dias que o seu modelo mais avançado em grande escala seria aberto ao público, mas agora foi urgentemente suspenso pelo governo dos EUA com base no controlo das exportações. A grande maioria dos usuários ao redor do mundo não consegue mais acessar os modelos Fable 5 e Mythos 5. Esta é a primeira vez que os Estados Unidos implementam diretamente medidas de controlo de exportações no próprio modelo de IA, causando choques a vários níveis na segurança, na indústria e nas relações de alianças.
De acordo com o The Economist, o senador dos EUA Mark Warner relatou em uma reunião confidencial em 11 de junho que o general Joshua Rudd, que também atua como diretor da Agência de Segurança Nacional (NSA) e comandante do Comando Cibernético dos EUA, disse a ele que o modelo Mythos da Anthropic rompeu as defesas da maioria dos sistemas confidenciais da NSA durante um exercício autorizado da equipe vermelha, não em semanas ou dias, mas em “horas”. Esta afirmação ainda não foi oficialmente confirmada por nenhuma agência governamental, e os detalhes relevantes permanecem confidenciais, mas rapidamente se tornou a narrativa dominante que explica porque é que o governo dos EUA emitiu repentinamente uma proibição severa de exportação em 12 de Junho: um modelo de IA de uma empresa comercial invadiu uma das infra-estruturas secretas mais bem guardadas do mundo num curto período de tempo.
Quando a Anthropic divulgou o Mythos pela primeira vez em abril deste ano, deixou claro que o modelo era muito poderoso para descobrir vulnerabilidades de segurança de software e corria o risco de ser abusado, por isso não seria aberto ao público. Forneceria acesso apenas a cerca de 200 parceiros rigorosamente avaliados em um projeto chamado Projeto Glasswing, incluindo Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan Chase e Linux Foundation. Desde então, a Mythos ajudou a descobrir milhares de vulnerabilidades do mundo real, incluindo uma falha de segurança que estava inativa no OpenBSD há 27 anos e 271 novos problemas no navegador Mozilla Firefox 150.
No dia 9 de junho, a Anthropic lançou ao público o modelo Fable 5. Sua base subjacente é a mesma do Mythos, mas um classificador de segurança é sobreposto ao topo para interceptar solicitações consideradas perigosas e redirecionar essas solicitações para modelos menos capazes de processamento. A posição da Anthropic é que essas "proteções" são suficientes para tornar Fable 5 seguro para o público; mas depois que o testemunho do General Rudd sobre os testes de penetração da NSA foi exposto, o governo dos EUA aparentemente discordou deste julgamento e acreditou que entre Mythos e Fable 5, a "lacuna de capacidade" trazida pelo classificador de segurança por si só não era suficiente para constituir uma linha de defesa confiável.
O gatilho direto que desencadeou tudo isso foi um relatório de “jailbreak”. O governo dos EUA notificou a Anthropic em 12 de junho que havia descoberto uma maneira de contornar o classificador de segurança Fable 5, potencialmente desbloqueando suas capacidades cibernéticas ofensivas e defensivas mais sensíveis. De acordo com a Anthropic, o governo foi informado apenas verbalmente da vulnerabilidade, descrevendo-a como um “jailbreak potencial, restrito e não universal” e dando à empresa 90 minutos para agir. O jailbreak foi relatado pela primeira vez ao Departamento de Comércio dos EUA pela Amazon, um importante investidor na Anthropic e concorrente na área de IA. Ao mesmo tempo, um pesquisador usando o pseudônimo de "Plínio, o Libertador" postou sua autoproclamada palavra completa do sistema no X e no GitHub dentro de 48 horas após o lançamento do Fable 5.
Confrontada com a pressão do governo, a Anthropic respondeu enfatizando a sua avaliação de que o impacto desta fuga da prisão foi limitado e não universal, e não derrotou fundamentalmente a segurança geral do Fable 5. A empresa também destacou que existem vulnerabilidades de segurança semelhantes em outros modelos abertos ao público, incluindo o GPT-5.5 da OpenAI, mas esses modelos não enfrentam a mesma intensidade de controles de exportação. A Anthropic alertou em um comunicado que se os padrões atuais para Fable 5 fossem aplicados em toda a indústria, “quase todos os principais fornecedores de modelos seriam forçados a interromper a implantação de novos modelos”.
Alguns membros da comunidade de segurança concordam com a avaliação da Anthropic. O ex-chefe de segurança do Facebook, Alex Stamos, disse que revisou a pesquisa relevante e acreditava que ela continha descobertas dignas de atenção, mas não demonstrou “capacidades únicas” que justificassem esta resposta extrema. No entanto, o conselheiro da administração Trump, David Sacks, teve uma opinião contrária, dizendo que era difícil compreender como a Anthropic poderia alegar que um jailbreak suficiente para tornar a arma cibernética totalmente operacional poderia ser definido como “não sério”.
O contexto político torna mais difícil para quem está de fora ver esta decisão como uma questão de segurança puramente técnica. Em Fevereiro, a administração Trump ordenou que todas as agências federais parassem de utilizar os modelos da Antrópico depois de a empresa se ter recusado a assinar termos contratuais que teriam permitido que a sua IA fosse utilizada em sistemas de armas autónomos e vigilância doméstica em grande escala. O Pentágono posteriormente classificou a Anthropic como um “risco da cadeia de abastecimento”, impedindo os empreiteiros militares de utilizarem os seus modelos, e a Anthropic está actualmente a contestar essa designação num tribunal federal. Esta série de conflitos torna este controlo das exportações mais parecido com a eclosão de um jogo de longo prazo estimulado por grandes incidentes de segurança.
O problema mais profundo reside na ausência de instituições. Alguns analistas salientaram que os Estados Unidos ainda carecem de um quadro estável e transparente para avaliar e controlar os riscos de segurança dos modelos de IA de ponta. Em 2 de junho, a administração Trump emitiu uma ordem executiva apelando às empresas de IA para fornecerem “voluntariamente” ao governo 30 dias de acesso antecipado a uma nova geração de modelos de ponta antes de serem divulgados publicamente. No entanto, Fable 5 ficou online diretamente após 7 dias e não cumpriu esta “estrutura voluntária”. Em termos práticos, a proibição de 12 de Junho tornou-se um meio difícil de forçar as empresas a cooperar com a revisão do governo. Um artigo de análise no site "Diálogo" acredita que o problema essencial é que o governo não possui os dados, a infra-estrutura e as capacidades profissionais necessárias para avaliar de forma independente modelos proprietários de ponta, e a sua dependência das empresas também é reconhecida de alguma forma nesta ordem executiva.
O impacto desta proibição estende-se muito além dos Estados Unidos. Quando o acesso ao Fable 5 e ao Mythos 5 foi completamente cortado, a Austrália, o Reino Unido, o Canadá e a Nova Zelândia, a tradicional aliança de inteligência dos EUA conhecida como Five Eyes, também foram bloqueados simultaneamente sem aviso prévio. O AI Safety Research Institute do Reino Unido, considerado a instituição líder mundial em testes de modelos de ponta, perdeu repentinamente o acesso durante o processo de avaliação de sistemas relacionados. Para o efeito, as agências de inteligência dos cinco países emitiram uma rara declaração conjunta na segunda-feira. Embora Antrópico ou Mito não tenham sido nomeados, o contexto sem dúvida apontava para a situação atual.
A declaração conjunta apontou que se espera que os modelos de IA de ponta excedam as expectativas atuais da indústria e mudem fundamentalmente o cenário dos ataques à rede e das capacidades de defesa. A janela temporal para os riscos relacionados já não é medida em “anos”, mas sim em “meses”. O documento foi assinado por altos funcionários, incluindo o chefe de segurança cibernética da NSA, David Imbordino, e o diretor interino da CISA, Nick Andersen. A declaração alertou que a IA reduzirá significativamente o limiar para que agentes maliciosos lancem ataques e continuem a explorar os mesmos velhos problemas que não foram resolvidos durante anos – sistemas sem patches, controlos fracos de gestão de identidade e serviços que estão desnecessariamente expostos à Internet. A declaração enfatizou que o risco cibernético não é mais uma questão puramente técnica, mas um risco empresarial central e uma responsabilidade de liderança.
Olivia Shen, especialista em segurança nacional e IA da Universidade de Sydney, na Austrália, destacou que pessoas de fora não deveriam limitar sua visão à Antrópica. Ela acredita que a indústria deve esperar que “o próximo Mythos ou a próxima Fábula apareça em breve”, e que atualmente o público só pode ver o modelo lançado, e pode haver sistemas igualmente avançados ou ainda mais avançados desenvolvidos pela China ou outros países e atores sendo avançados a portas fechadas. A mídia de segurança CyberScoop apontou que as capacidades de ataque mencionadas no relatório de inteligência de ameaças da Amazon que desencadearam esta ação governamental podem, na verdade, ser alcançadas com a ajuda de modelos de gerações mais antigas, como Claude Opus, Claude Sonnet, e até mesmo modelos chineses de código aberto que não estão sujeitos a quaisquer controles de exportação dos EUA. Os modelos de código aberto tradicionalmente ficam atrás dos head labs em cerca de 6 a 8 meses em termos de recursos, então é uma questão em aberto se desabilitar o Fable 5 irá realmente desacelerar significativamente um adversário intencional.
A partir de agora, Fable 5 e Mythos 5 ainda estão offline para a maioria dos usuários. A Anthropic disse anteriormente à mídia que a empresa está “muito confiante de que a disponibilidade do modelo será restaurada nos próximos dias”, mas esta posição ainda não foi cumprida. As probabilidades fornecidas pelos mercados de previsão colocam a chance de acesso restaurado antes de 1º de julho em cerca de 57%. Trump disse em uma entrevista ao Axios na semana passada que não considerava mais o Antrópico uma ameaça à segurança nacional, dizendo “talvez tenha sido há uma semana, mas não agora”. Os dois lados se reuniram durante o G7, e Trump comentou sobre o andamento das negociações que “tudo está indo muito bem”.
Dezenas de pessoas, incluindo investigadores de segurança cibernética, empresários de IA e executivos de empresas, escreveram conjuntamente à Casa Branca na segunda-feira, apelando ao governo para que se comprometa com um processo “aberto, científico e transparente” em futuros processos de avaliação e resposta de riscos de IA. Acredita-se que um sinal mais operacional possa vir da política de verificação de identidade da Anthropic, que está programada para entrar em vigor em 8 de julho, o que permitirá à empresa verificar se os usuários são cidadãos dos EUA, restaurando assim a disponibilidade do modelo nos Estados Unidos sem revogar completamente a ordem de controle de exportação.
Embora ainda não esteja claro como a proibição terminará no curto prazo, os últimos dez dias marcaram claramente um ponto de viragem: esta é a primeira vez que os Estados Unidos colocam controlos de exportação diretamente no próprio modelo de IA, em vez do equipamento de hardware que suporta o seu funcionamento. A Europa está a acompanhar de perto este precedente, temendo que uma situação semelhante se possa repetir no futuro no Azure, AWS ou Google Cloud. O ex-ministro da Segurança britânico, Tom Tugendhat, disse sem rodeios que depois de tal "lição intuitiva", os países começarão a pensar em como alcançar as capacidades soberanas de seus países em nuvem crítica e infraestrutura de IA. Quanto a saber se o Mythos realmente invadiu a maioria dos sistemas confidenciais da NSA em poucas horas, não houve nenhuma confirmação independente de qualquer agência governamental, e os detalhes específicos ainda estão escondidos em documentos confidenciais.