Em resposta a rumores de que departamentos governamentais relevantes dos EUA estão a considerar proibir empresas nacionais de utilizarem modelos de IA de código aberto de países específicos, Dario Amodei, co-fundador e CEO da Anthropic, uma empresa líder no campo da inteligência artificial, emitiu publicamente uma declaração afirmando que a Anthropic nunca propôs ou defendeu a proibição de modelos de código aberto.
Recentemente, as discussões sobre o bloqueio de modelos de código aberto desencadearam reações violentas na indústria. Muitas empresas de tecnologia assinaram uma carta aberta conjunta para apoiar o modelo de código aberto, e algumas vozes na indústria questionaram até mesmo a tentativa da Anthropic de suprimir concorrentes e proteger os seus próprios interesses comerciais, promovendo proibições administrativas. A este respeito, Amodei esclareceu claramente que, desde que o modelo de código aberto não tenha capacidades perigosas, é um produto público de grande valor. Não é apenas de baixo custo, mas também pode trazer uma promoção significativa para empresas, desenvolvedores e pesquisadores científicos. As proibições proteccionistas não só não conseguem responder às verdadeiras preocupações de segurança nacional, mas podem, em vez disso, tornar-se uma ferramenta para o monopólio industrial, o que não é de forma alguma a posição ou o objectivo da Antrópico.
No artigo, Amodei expôs suas reais preocupações sobre a segurança da tecnologia de IA e a segurança nacional:
Um deles é o risco de regimes autoritários utilizarem sistemas de IA mais poderosos do que os Estados Unidos para obter uma vantagem militar permanente ou aprofundar a vigilância interna. Amodei destacou que, diante de tais riscos, se os pesos de código aberto do modelo são divulgados e se as empresas nacionais americanas utilizam esses modelos não são fatores críticos. Os mais perigosos são frequentemente modelos secretos que são desenvolvidos secretamente e fornecidos apenas às agências militares ou de inteligência.
O segundo é o risco de modelos poderosos de IA serem utilizados de forma maliciosa para lançar ataques cibernéticos em grande escala ou para o desenvolvimento de armas biológicas. Embora o modelo de código aberto careça de métodos contínuos de proteção e monitorização da segurança e não possa ser retomado uma vez lançado, enfrenta desafios maiores na governação da segurança. Simplesmente proibir empresas locais em conformidade de usarem o modelo de código aberto não pode de forma alguma impedir participantes mal-intencionados que não estejam em conformidade e, portanto, não tem nenhuma ajuda real na redução de tais ameaças à segurança.
A fim de lidar eficazmente com os riscos acima mencionados, a Anthropic apresentou três sugestões práticas de políticas e propostas regulatórias:
Primeiro, limite estritamente o fluxo do poder computacional chave para potenciais ameaças. Devemos continuar a controlar a exportação de chips e equipamentos de processo de alto desempenho, reprimir severamente todos os tipos de contrabando ilegal e atividades OEM que contornam a proibição, e cortar a base de poder computacional para o treinamento de modelos de alto risco desde a fonte.
Em segundo lugar, reprimir o comportamento de “destilação modelo” (Distill) transfronteiriça em grande escala. Algumas instituições estão a utilizar métodos de baixo custo, como a destilação, para absorver as capacidades dos modelos de código fechado de ponta em lotes, encurtando assim significativamente o ciclo de desenvolvimento do modelo. Para tais comportamentos que utilizam termos abusivos para contornar o bloqueio do poder computacional, um mecanismo de punição legal e comercial mais claro deve ser estabelecido.
Por fim, implemente testes de segurança de pré-lançamento (pré-lançamento) abrangentes e obrigatórios. Todos os modelos de alta capacidade, sejam eles de código aberto ou de código fechado, devem passar por testes e avaliações rigorosos que abranjam riscos de segurança cibernética, biossegurança e alinhamento antes de serem entregues ao público ou a agências específicas. A segurança do modelo deve basear-se em testes empíricos objetivos e rigorosos, em vez de suposições subjetivas a priori.
Amodei concluiu enfatizando que a indústria não deve cair no interminável atrito interno entre "código aberto e código fechado", mas deve concentrar sua atenção no controle do poder de computação, na governança de destilação de violações e no estabelecimento de padrões de testes de segurança globalmente unificados para garantir que a tecnologia de inteligência artificial continue a se desenvolver sob a premissa de controlabilidade e segurança.
Leia o artigo completo:
https://www.anthropic.com/news/position-open-weights-models