Resumo:
A Anthropic se recusa a submeter seu modelo mais recente ao Instituto de Segurança de Inteligência Artificial (AISI) do Reino Unido para testes antes do lançamento do novo produto. A medida levantou preocupações dentro do governo britânico de que as empresas de tecnologia estão seguindo a linha protecionista de IA do governo Trump.
A empresa avaliada em 1 bilião de dólares, que se prepara para uma grande IPO nas próximas semanas, lançou o seu mais recente modelo, Claude Mythos 5.1, na semana passada, qualificando-o como o modelo mais capaz em ciências da vida e segurança cibernética.
Mas esta é a primeira vez que o modelo é aberto apenas a instituições credenciadas nos EUA, e o Instituto de Segurança de Inteligência Artificial (AISI) do Reino Unido não conseguiu obter acesso. AISI é a organização líder mundial na área de avaliação de grandes modelos de ponta.
Vários funcionários do governo britânico disseram que o AISI não conseguiu obter direitos de acesso antes do lançamento do modelo, o que provocou alarme dentro de Whitehall (o governo central britânico) e do instituto. AISI é a moeda de troca mais importante do Reino Unido na corrida global pela inteligência artificial.
Uma fonte do governo disse: "As autoridades de segurança nacional estão preocupadas com isso. Eles realmente não estão testando o Mythos 5.1. Há muita ansiedade de todos os lados... Eles estão preocupados que isso estabeleça um precedente e que a AISI não tenha mais acesso aos modelos mais recentes no futuro."
Nos últimos meses, a administração Trump adotou uma postura cada vez mais rigorosa em relação à indústria de IA, introduzindo extensos controles de exportação e restringindo temporariamente o acesso de todos os estrangeiros (incluindo funcionários de empresas de IA dos EUA) aos principais modelos da Anthropic.
Fontes revelaram que algumas pessoas dentro de Whitehall acreditam que a Anthropic se recusou a abrir a nova versão do modelo Mythos para AISI sob orientação do governo dos EUA, mas esta especulação não foi confirmada. A AISI, que foi criada há três anos, já obteve o novo modelo OpenAI Astra para avaliação antecipada antes do seu lançamento oficial este mês.
A Anthropic não quis comentar. A empresa disse na semana passada que estava “coordenando com o governo dos EUA para expandir a abertura do modelo para mais parceiros nacionais e estrangeiros o mais rápido possível”.
Em junho deste ano, o governo dos EUA implementou controles de exportação no Fable e no Mythos, dois modelos da Anthropic que se concentram na segurança da rede, proibindo estrangeiros de usar a tecnologia. Este incidente ocorreu após a introdução dos controles acima mencionados.
Os Estados Unidos descobriram que o modelo tinha uma vulnerabilidade de "jailbreak", que é um método que pode contornar as proteções de segurança integradas do software, e implementaram imediatamente esse controle. Como resultado da descoberta, a Anthropic retirou o seu modelo de ponta dos mercados globais durante várias semanas.
Este incidente intensificou o conflito entre a Casa Branca e o Vale do Silício. O Vale do Silício criticou o governo dos EUA por adotar regulamentações de emergência temporárias sobre IA de ponta.
Esta medida também atraiu oposição de muitos governos, e países relevantes acusaram os Estados Unidos de punir aliados através de proibições. A Comissão Europeia, o braço executivo da UE, alertou na altura que os riscos de segurança eram um “desafio partilhado” e que as medidas tomadas “não deveriam constituir discriminação contra países parceiros”.
Os funcionários do governo britânico estão claramente conscientes de que se o Reino Unido não conseguir obter os modelos de IA mais avançados, o país não só enfrentará implicações de segurança, mas a economia também poderá sofrer.
A comunicação social noticiou no mês passado que o Gabinete do Governo, responsável pela coordenação dos assuntos governamentais, ordenou uma avaliação urgente do risco de os consumidores e empresas comuns já não conseguirem utilizar a versão mais recente dos modelos de IA.
O relacionamento da Antrópico com o governo dos EUA tem sido tenso desde o início deste ano. A empresa já tinha estado num impasse com o Departamento de Defesa dos EUA sobre os termos do contrato, e os EUA posteriormente identificaram-na como uma entidade de risco da cadeia de abastecimento.
Nos últimos meses, as relações entre o principal laboratório de IA dos EUA e partes da administração Trump parecem ter melhorado, com ambas as partes trabalhando em estreita colaboração no lançamento dos modelos Mythos e Fable.
O Gabinete do Governo Britânico afirmou: "O Instituto de Segurança de Inteligência Artificial (AISI) continua a trabalhar em estreita colaboração com parceiros da indústria, incluindo a Anthropic, para melhorar a segurança dos modelos."
Comentários