O governo dos EUA emitiu recentemente uma nova diretriz de controle de exportação citando instruções do Departamento de Segurança Nacional dos EUA, que exige que a Anthropic suspenda imediatamente o acesso aos modelos Claude Fable/Mythos 5 por todos os cidadãos estrangeiros. Mesmo os funcionários estrangeiros de empresas norte-americanas nos Estados Unidos não podem aceder a estes modelos. Esta proibição também faz com que os próprios funcionários estrangeiros da Empresa A não possam usar Claude Fable/Mythos 5.
Com base nos requisitos de conformidade, a Empresa A decidiu suspender imediatamente o fornecimento de Claude Fable/Mythos 5 globalmente. Esses modelos não podem ser usados independentemente de estarem nos Estados Unidos. Outras plataformas cooperativas, como Amazon AWS, também cortaram imediatamente o acesso. Quanto a quando o acesso ao modelo poderá ser restaurado, poderá não ser conhecido até que a Empresa A discuta com o governo dos EUA.
Pode estar relacionado ao modelo de jailbreak:
Ontem, um conhecido especialista em jailbreak de modelos de IA desbloqueou com sucesso o modelo Claude Fable/Mythos 5. Existem muitos métodos usados pelos especialistas em jailbreak, mas desde que sejam anunciados, outros usuários também podem tentar usar esses métodos para fazer o jailbreak, e a taxa de sucesso do jailbreak pode ser relativamente alta, permitindo que o modelo forneça respostas detalhadas a vários conteúdos confidenciais.
O governo dos EUA mencionou em uma ordem de controle de exportação emitida para a Empresa A que descobriu maneiras de contornar ou quebrar o modelo Claude Fable 5. A análise das demonstrações desta tecnologia específica pela Empresa A confirmou que a tecnologia pode ser usada para identificar um pequeno número de vulnerabilidades menores observadas anteriormente que parecem ser relativamente simples e podem ser exploradas por outros modelos sem contorná-las.
No entanto, não está claro se a demonstração técnica mencionada aqui é o método utilizado pelos especialistas em jailbreak. No entanto, considerando que o governo dos EUA não exige uma suspensão completa do acesso aos modelos, mas apenas proíbe cidadãos estrangeiros de utilizarem estes modelos, os problemas descobertos pela Agência de Segurança Nacional dos EUA podem não estar diretamente relacionados com os mencionados pelos especialistas em jailbreak. Só que é impossível dizer que a agência também se referirá às ideias de especialistas em jailbreak para encontrar métodos de jailbreak.
A Empresa A expressou sua insatisfação em carta aberta:
A Empresa A afirma que atualmente nenhum modelo é 100% resistente a cracking e atualmente nenhum testador consegue encontrar uma solução universal de jailbreak. A estratégia de defesa profunda adotada por Claude Fable/Mythos 5 pode tornar o jailbreak mais difícil. Combinada com tecnologia de monitoramento abrangente, a Empresa A pode detectar e bloquear rapidamente qualquer ataque bem-sucedido, o que pode reduzir o risco de o modelo ser desbloqueado.
A Agência A também mencionou que o governo dos EUA não forneceu nenhuma informação detalhada de divulgação que pudesse levar a consequências prejudiciais na proibição de controle de exportação, o que significa que as soluções de jailbreak divulgadas são completamente inofensivas ou são descobertas insignificantes. Não é razoável que a Agência A recolha software comercial que foi implementado em centenas de milhões de utilizadores apenas por causa das potenciais vulnerabilidades de segurança descobertas.
A Empresa A acredita que o governo dos EUA tem o direito de impedir a implantação de modelos inseguros, mas isso deve ser exercido através de procedimentos legais que sejam transparentes, justos, claros e baseados em factos técnicos, em vez de exigir a implementação de controlos baseados apenas em instruções verbais. Portanto, esta ação não está em conformidade com os princípios. A Empresa A continua a se comunicar com o governo dos EUA e se esforça para restaurar o serviço do modelo Claude Fable/Mythos 5 o mais rápido possível.