A Anthropic acusou recentemente publicamente as empresas chinesas de IA DeepSeek, MiniMax e Moonshot de abusar maciçamente de seu grande modelo Claude para melhorar as capacidades de seus produtos, definindo esse comportamento como “abuso em escala industrial”. A atividade envolveu cerca de 24 mil contas falsas e mais de 16 milhões de interações com Claude, informou a empresa em comunicado divulgado na segunda-feira, após reportagem do The Wall Street Journal.
Segundo relatos, essas empresas são acusadas de usar a chamada tecnologia de “destilação” para extrair capacidades de modelos mais avançados como Claude para treinar modelos menores. A Anthropic admitiu na sua descrição que a destilação modelo em si é um "método de treino legítimo", mas também enfatizou que este método "também pode ser utilizado para fins impróprios", tais como a obtenção de capacidades poderosas de outros laboratórios a um custo muito inferior ao tempo e ao custo de capital da investigação e desenvolvimento independentes.
A Anthropic alerta especificamente que os modelos obtidos por meio de destilação ilegal dessa forma provavelmente não herdarão os mecanismos de proteção e restrição de segurança do modelo original. “Laboratórios estrangeiros que destilam modelos dos EUA podem contornar essas restrições de segurança e alimentar capacidades desprotegidas diretamente em sistemas militares, de inteligência e de vigilância, permitindo que governos autoritários usem IA de ponta para operações cibernéticas ofensivas, proliferação de desinformação e vigilância em massa”, observou a empresa.
Neste incidente, DeepSeek é quem atraiu mais atenção - esta empresa causou choque na indústria global de IA com seus modelos mais eficientes e poderosos em termos computacionais. A Anthropic disse que houve mais de 150.000 interações entre DeepSeek e Claude, com foco particular nas habilidades de raciocínio de Claude. Além disso, DeepSeek também é acusado de usar Claude para gerar “expressões alternativas favoráveis à censura” para responder a questões politicamente sensíveis envolvendo dissidentes, líderes partidários ou autoritarismo para contornar a filtragem do sistema de censura do país.
As dúvidas sobre o DeepSeek não vêm apenas da Anthropic. Há apenas uma semana, em uma carta aos legisladores dos EUA, a OpenAI também acusou a DeepSeek de usar métodos de destilação semelhantes para "aproveitar" os recursos do modelo desenvolvido pela OpenAI e outras empresas dos EUA por um longo tempo para buscar vantagem competitiva. A carta também posiciona o DeepSeek como uma ameaça ao ecossistema de IA e à liderança tecnológica dos EUA.
Actualmente, a Anthropic não divulgou em detalhe o caminho de acção legal ou regulamentar subsequente numa declaração pública, mas ao elevar a questão ao nível da segurança nacional e da governação global da IA, a empresa espera claramente pressionar os reguladores e os decisores políticos a enfrentarem o risco de "abuso da destilação modelo". Numa altura em que a concorrência global em matéria de IA se torna cada vez mais acirrada e os fluxos tecnológicos transfronteiriços são altamente sensíveis, esta acusação exacerbou ainda mais a tensão em torno da concorrência e do jogo de segurança entre a China e os Estados Unidos na tecnologia de IA.