Chefe de negócios internacionais da Anthropic: modelo de código aberto é mais arriscado

Resumo:

Em 14 de outubro, de acordo com a Bloomberg, o principal executivo de vendas da Anthropic responsável por mercados fora dos Estados Unidos disse que, em comparação com os modelos de IA da empresa, os modelos abertos apresentam “riscos maiores” em termos de incidentes de segurança cibernética ou outros perigos

Príncipe

Guillaume Princen, chefe de negócios internacionais da Anthropic, disse à Bloomberg TV na quarta-feira no International AI Summit em Dublin: "Temos que ser extremamente cautelosos com modelos de código aberto quando se trata de segurança. Não posso falar em modelos abertos, mas por definição eles apresentam maior risco."

A Anthropic está prestes a abrir o capital, mas a empresa enfrenta concorrência crescente em alguns países. Estes países estão cada vez mais preocupados com a sua dependência da tecnologia americana de IA. Atualmente, uma alternativa popular aos modelos de código fechado são os modelos de IA de peso aberto, que expõem seus parâmetros e permitem que os usuários os modifiquem e executem em seu próprio hardware.

Os defensores dizem que esses modelos são mais baratos e mais propícios à salvaguarda da soberania nacional do que os modelos de código fechado e rigidamente controlados oferecidos pela Anthropic e pela OpenAI. A empresa francesa de IA Mistral AI lançou recentemente um modelo de peso aberto que fornece à Europa uma alternativa ao modelo soberano. Ao mesmo tempo, uma série de modelos abertos semelhantes lançados por empresas chinesas estão a ganhar cada vez mais atenção nos mercados estrangeiros.

A Anthropic tem aumentado seus alertas sobre as capacidades da IA.

Prinsen também supervisiona as vendas da Anthropic para startups e empresas “digitalmente nativas”. Ele disse que suas preocupações com o modelo aberto decorrem dos esforços da própria Antrópico para manter seus produtos seguros. Após uma série de hacks de IA de alto perfil, a Anthropic disse que adicionou salvaguardas de segurança adicionais para evitar que seus modelos sejam usados ​​para fins maliciosos. A empresa sempre defendeu que o ritmo de desenvolvimento da IA ​​deveria ser desacelerado até que os padrões internacionais fossem estabelecidos e um mecanismo de avaliação unificado fosse formado.

Quando se trata dos modelos mais caros da Anthropic, Princen disse que diria às empresas que a compra de modelos mais potentes acabará por compensar. “Invista sempre em tecnologia de ponta porque daqui a seis meses, daqui a um ano ou daqui a dois anos, o custo de utilização deste tipo de aplicações também cairá”, afirmou.

Ele disse que o modelo Claude mais recente da empresa, o Opus 5.5, é 40% mais barato que a versão anterior. Ele acrescentou que os clientes empresariais que compram os modelos “de ponta” da Anthropic representam uma “parte muito grande” dos negócios da empresa, sem divulgar números específicos.

Prinsen se recusou a comentar os planos de IPO da Anthropic ou a dizer quanto dinheiro a empresa investiu no treinamento de novos modelos.