Os Estados Unidos proibiram os utilizadores estrangeiros de aceder aos modelos de IA mais avançados da Anthropic, informou a Bloomberg, uma medida invulgar que destaca a actual vontade da administração Trump de exercer controlo sobre esta indústria crítica. Ao mesmo tempo, serve como um lembrete para Silicon Valley de que estão a desenvolver e a utilizar uma tecnologia que ainda não é totalmente compreendida e cujo impacto é altamente variável.
Antrópico
Na sexta-feira, o governo dos EUA tomou a medida sem precedentes de ordenar que a Anthropic proibisse todos os estrangeiros de usar sua plataforma de IA mais avançada. O governo dos EUA emitiu esta ordem depois de descobrir que o modelo Fable 5 lançado pela Anthropic há alguns dias poderia ser “desbloqueado”. O chamado “jailbreaking” refere-se a contornar o mecanismo de proteção de segurança definido pelo modelo.
A rápida introdução da mudança gerou preocupação generalizada. A Anthropic chamou a medida de “reação exagerada” e alertou que adotar tal abordagem regulatória poderia “resultar na impossibilidade de todos os desenvolvedores de modelos de ponta implantarem quaisquer novos modelos”.
Os executivos da Anthropic estão atualmente em discussões com autoridades em Washington sobre as preocupações específicas de segurança levantadas por esta última, disseram pessoas familiarizadas com o assunto. Um dos principais funcionários envolvidos nas negociações foi o secretário do Tesouro dos EUA, Bessent. Anteriormente, ele emitiu alertas a Wall Street sobre os riscos representados por modelos de IA de ponta, como o Mythos da Anthropic. Em teoria, o Mythos pode encontrar e explorar vulnerabilidades em software mais rapidamente do que os humanos.
Intervir nas operações da empresa de IA
A resposta do governo dos EUA é a intervenção mais significativa de funcionários governamentais nas operações de uma empresa de IA até à data. A mudança ocorre no momento em que startups líderes de IA, como a Anthropic, buscam abrir o capital. A Antrópica está avaliada em mais de US$ 900 bilhões. Esta medida de controle inesperada pode abrir um precedente para os principais desenvolvedores de modelos de IA, como OpenAI, Google e Meta.
Hoje, o governo dos EUA está disposto a usar poderes extraordinários para forçar os criadores de IA a lidar com potenciais ameaças à segurança de acordo com os requisitos do governo, embora a administração Trump tenha declarado numa ordem executiva emitida em Junho deste ano que não forçará as empresas do Vale do Silício a obedecer às ordens do governo.
“Os modelos de ponta dos Estados Unidos são cada vez mais vistos como activos estratégicos e a sua utilização é estritamente controlada e influenciada por considerações de segurança nacional”, disse Gary Tan, gestor de carteira da empresa de gestão de activos Allspring Global Investments. “Essa tendência provavelmente continuará porque os Estados Unidos lideram em poder computacional.”
Modelo do mito
A Anthropic lançou Fable 5 na semana passada, a primeira versão pública de seu modelo da classe Mythos. A empresa alertou repetidamente sobre as capacidades cibernéticas do Mythos, e os funcionários da Casa Branca levaram essas preocupações a sério, criando um caminho através de ordens executivas voluntárias para que as agências dos EUA usassem o Mythos e outros modelos com capacidade cibernética para corrigir vulnerabilidades nos seus sistemas.
As preocupações de Washington podem ir além do “jailbreak” ou da capacidade de afetar uma plataforma específica. A preocupação mais ampla é que os adversários possam tentar roubar os pesos de um modelo de IA, um ficheiro digital altamente valioso que contém a chave das capacidades de um modelo. A decisão de proibir o acesso ao Fable e ao Mythos ocorre em meio a preocupações crescentes em Washington sobre as empresas de IA que protegem segredos comerciais. O governo dos EUA acredita que estas empresas precisam de se proteger contra potenciais ameaças de pessoas internas para evitar a fuga de tecnologias essenciais.
Depois de décadas a espalhar tecnologia americana de ponta por todo o mundo como uma ferramenta diplomática e económica, Washington está agora a mover-se na direcção oposta. Agora, os Estados Unidos estão cada vez mais inclinados a manter a tecnologia para uso doméstico devido a preocupações de segurança nacional.
“Isto mostra que os Estados Unidos estão rapidamente a utilizar controlos de exportação para reduzir os riscos representados pela IA de ponta”. disse Stefanie Kam, professora assistente do Instituto de Defesa e Estudos Estratégicos da Universidade Tecnológica de Nanyang, em Cingapura.
Boicote ao Vale do Silício?
Deixando de lado os objectivos políticos, Silicon Valley irá provavelmente resistir às tentativas de Washington de reforçar o controlo. Do Meta ao OpenAI, os principais desenvolvedores de IA estão competindo para assumir o comando dessa tecnologia, porque é provável que ela remodele toda a economia e muitos setores.
No entanto, é impossível testar todas as combinações das capacidades potenciais de um modelo de IA, o que leva a vagas preocupações sobre ameaças que continuam a ser examinadas à medida que os modelos continuam a melhorar.
"Pode haver limites de capacidade importantes. Por exemplo, sistemas de IA que podem automatizar grandes quantidades de trabalho de investigação e desenvolvimento de IA num curto período de tempo. Tais sistemas podem introduzir riscos inteiramente novos." O senador norte-americano Jim Banks escreveu este mês em uma carta a Bessant, ao diretor cibernético nacional, Sean Cairncross, e ao secretário de defesa, Pete Hegseth. “Especialistas da indústria também expressaram sérias preocupações sobre a dificuldade de colocar tais sistemas sob controle humano”.