Mídia dos EUA: CEO da Anthropic se torna um obstáculo às negociações de regulamentação do modelo dos EUA, acusado de ser "estranho" e substituído

Em 25 de junho, a revista Wired informou que pessoas familiarizadas com o assunto disseram que a administração Trump tem estado mais disposta a se comunicar com a Anthropic recentemente porque não precisa mais lidar com o CEO da empresa, Dario Amodei. Amodei foi substituído pelo cofundador da Anthropic, Tom Brown, em meio a negociações para relançar o modelo Claude Fable 5 AI.

Amodei

“Brown não é tão excêntrico quanto Amodei e consegue se comunicar de forma eficaz”, disse uma pessoa com conhecimento direto da ligação.

Atualmente, o governo dos EUA não suspendeu os controles de exportação da Antrópico. Essa restrição fez com que o modelo mais poderoso da Anthropic fosse colocado offline em 12 de junho. O motivo foi que a Agência de Segurança Nacional dos EUA confirmou que havia uma maneira de contornar o mecanismo de segurança e obter as capacidades mais fortes do modelo restrito “Mythos” da empresa.

Mas as autoridades estão encorajadas pelo fato de o governo dos EUA ter recebido várias ligações com a Anthropic nos últimos dias, com Brown e a chefe de políticas públicas da Anthropic, Sarah Heck, no comando.

Pessoas familiarizadas com o assunto disseram que Amodei era muito difícil de se comunicar e “não estava disposto a ouvir as preocupações da outra parte”.

Estas comunicações incluem conversações de alto nível e intercâmbios a nível de grupos de trabalho, com a participação de pessoal técnico de ambas as partes. Parte da discussão centrou-se no nível de evidência que a Antrópica precisaria fornecer para acalmar as preocupações do governo sobre o risco de jailbreak do modelo Fable 5, de acordo com pessoas familiarizadas com o assunto.

Parte do desafio para ambos os lados está no nível conceitual. Especialistas independentes em segurança cibernética acreditam cada vez mais que as salvaguardas de segurança para modelos de IA são uma medida provisória, uma vez que usuários qualificados e futuros modelos de IA sempre encontrarão maneiras de contornar as restrições.

Ainda não se sabe quando a Anthropic será capaz de reimplantar o modelo Fable 5. No entanto, as medidas que a empresa precisa de tomar para levantar os controlos de exportação podem ficar mais claras nos próximos dias.

Um porta-voz da Casa Branca não quis comentar. Um porta-voz da Anthropic não respondeu a um pedido de comentário.