Resumo:
Anthropic, uma empresa americana de inteligência artificial, divulgou recentemente um relatório de inteligência de ameaças, acusando instituições como Alibaba, Moonshot AI, DeepSeek, Xiaomi e vários outros laboratórios chineses de IA de extrair as capacidades de seus modelos por meio de chamadas em grande escala para Claude e usar os resultados gerados para treinar e melhorar seus próprios modelos de inteligência artificial. A Anthropic chama esse comportamento de “ataque de destilação” não autorizado.
A chamada destilação de modelo refere-se ao uso de um modelo com capacidades mais fortes e em maior escala para gerar um grande número de respostas e, em seguida, usar esses resultados como dados de treinamento para treinar modelos com custo mais baixo, escala menor ou capacidades mais fracas. Para as empresas de IA, esta é uma rota técnica que pode reduzir os custos de treinamento e melhorar rapidamente as capacidades do modelo. No entanto, a Anthropic acredita que alguns dos comportamentos descobertos desta vez ultrapassaram o âmbito da destilação normal do modelo e pertencem à extracção organizada e em grande escala das capacidades do seu modelo de negócio.
A Anthropic disse que entre maio e julho de 2026, as operações relacionadas ao Alibaba geraram mais de 151 milhões de interações com Claude, tornando-se a maior operação de destilação ilegal que a empresa descobriu até o momento. As operações relevantes utilizaram mais de 3.500 contas que a Anthropic identificou como fraudulentas, e o maior número de interações por dia foi de quase 3 milhões.
A Anthropic acredita que essas contas são usadas principalmente para fazer continuamente um grande número de perguntas a Claude e obter as respostas do modelo e processos de raciocínio mais detalhados e, em seguida, usar essas informações para melhorar a série de modelos Tongyi Qianwen do Alibaba.
Para desenvolvedores de modelos, o processo de inferência é especialmente valioso. Em comparação com a obtenção apenas da resposta final, os registos de inferência detalhados podem mostrar ao formador como o modelo analisou o problema, como decompor a tarefa e como chegar à conclusão final e, portanto, podem tornar-se dados importantes para o treino de modelos de inferência avançados.
Anthropic também nomeou Dark Side of the Moon AI, o desenvolvedor de Kimi. O relatório afirmou que entre maio e julho de 2026, contas relacionadas ao Dark Side of the Moon tiveram mais de 23 milhões de interações com Claude.
O que é mais digno de nota é que a Anthropic acusou Dark Side of the Moon de não apenas usar Claude para destilação de modelo, mas também de encaminhar solicitações reais de usuários Kimi para Claude para processamento.
Anthropic afirmou que durante um dos períodos de 10 dias, Dark Side of the Moon transferiu quase 300.000 solicitações de usuários originalmente enviadas a Kimi para Claude através de uma rede de contas composta por 5.380 contas, com a maioria das solicitações sendo enviadas para a série de modelos Claude Opus. A Anthropic acredita que essas contas estão localizadas principalmente em Cingapura e no Japão e são usadas para ocultar a real origem das solicitações.
Isso significa que, em alguns casos, os usuários do Kimi pensam que estão interagindo com o próprio modelo do Dark Side of the Moon, mas na verdade a solicitação pode ser encaminhada para Claude da Anthropic para processamento. A Anthropic também disse que Dark Side of the Moon salvou parte do conteúdo interativo e extraiu os registros de raciocínio de Claude como dados de treinamento.
O que é ainda mais preocupante é que essas solicitações encaminhadas não são necessariamente apenas conteúdo de bate-papo comum. A Anthropic disse que algumas das solicitações continham informações confidenciais e que os usuários podem não saber que seus dados estavam realmente sendo enviados para o modelo de outra empresa de IA.
O relatório cita um caso relacionado a Kimi. Um usuário pediu a Kimi que analisasse um grande número de imagens de câmeras de vigilância de Chengdu, na China, para determinar o comportamento de uma pessoa. De acordo com a Anthropic, os dados do vídeo foram eventualmente transferidos para Claude para processamento, e os usuários inicialmente acreditaram que os dados foram analisados dentro de Kimi.
A Anthropic também descobriu que parte do conteúdo enviado a Kimi por alguns usuários envolvia informações confidenciais, como credenciais de login corporativas. Em um caso, um engenheiro enviou credenciais de login de várias empresas para Kimi, a fim de usá-lo para ajudar uma empresa chinesa a desenvolver software, e as informações relevantes foram posteriormente transferidas para Claude.
A Anthropic afirmou que os usuários não sabem claramente que suas solicitações serão encaminhadas para o modelo da Anthropic, portanto, além de envolver problemas de destilação do modelo, essa abordagem também pode criar sérios riscos de privacidade e segurança de dados.
O DeepSeek também foi acusado pela Anthropic de adotar uma abordagem semelhante. O relatório afirma que foi descoberto que DeepSeek conduziu mais de 12 milhões de interações de destilação relacionadas a Claude durante um período de 14 dias em julho de 2026.
A Anthropic acredita que o DeepSeek também encaminhou solicitações reais de usuários para Claude, e parte do conteúdo dessas solicitações continha informações confidenciais. As respostas de Claude foram então usadas para treinar e melhorar os próprios modelos do DeepSeek.
Além de Alibaba, Dark Side of the Moon e DeepSeek, a Anthropic também nomeou empresas chinesas de IA, como Zhipu e Xiaomi. Segundo o relatório, a Xiaomi gravou chats entre usuários e seu modelo MiMo e entregou essas conversas a Claude para gerar dados para treinamento do modelo.
A Anthropic afirmou que durante o período coberto por seu relatório, descobriu-se que um total de sete laboratórios chineses de IA implementaram atividades de destilação modelo visando Claude. Nem todas as atividades relacionadas usam exatamente o mesmo método, mas a característica comum é que elas tentam obter uma grande quantidade de resultados de Claude, aprender as capacidades do modelo e usar essas informações para treinar seus próprios sistemas de IA.
A Anthropic acredita que essas atividades têm se tornado cada vez mais organizadas e em grande escala. Ao contrário dos desenvolvedores comuns que ocasionalmente chamam outros modelos de IA para testes, essas operações usam um grande número de contas, agentes e plataformas intermediárias para ocultar suas verdadeiras identidades e gerar continuamente interações de modelos em escala industrial.
Entre elas, as atividades relacionadas ao Alibaba atraíram atenção especial. Mais de 151 milhões de interações fizeram com que a operação não fosse um simples teste experimental, mas uma operação de aquisição de dados em grande escala que durou vários meses. A Anthropic acredita que esses dados são usados principalmente para ajudar a treinar e melhorar o modelo Tongyi Qianwen do Alibaba.
Para Dark Side of the Moon e DeepSeek, o problema é mais complicado, porque a Anthropic os acusa de não apenas obter dados de treinamento de Claude, mas também de encaminhar suas próprias solicitações de usuários para modelos concorrentes. Isto significa que o conteúdo enviado pelos utilizadores a uma empresa de IA pode entrar no sistema de outra empresa de IA sem notificação explícita.
A Anthropic disse que tomou medidas para interromper essas atividades, incluindo o banimento de contas relevantes, o reforço da verificação de identidade e a limitação adicional da capacidade de Claude de apresentar raciocínios detalhados. Como os registros de inferência detalhados são altamente valiosos para a destilação do modelo, a redução da produção desse conteúdo pode reduzir a eficiência dos concorrentes que replicam as capacidades de Claude por meio de um grande número de solicitações automatizadas.
A Anthropic também afirmou que a empresa fortalecerá as medidas de verificação de identidade para usuários de países ou regiões onde Claude atualmente não fornece serviços oficiais, como China, Rússia e Irã, mas que são suspeitos de tentar contornar restrições e acessar Claude.
Este relatório não é a primeira vez que a Anthropic acusa publicamente empresas chinesas de IA de destilação modelo. Em junho deste ano, a diretora de política antrópica, Sarah Heck, escreveu aos congressistas dos EUA, afirmando que o Alibaba teve aproximadamente 28,8 milhões de interações com Claude entre 22 de abril e 5 de junho, e acreditava que essas interações foram usadas para destilação modelo não autorizada.
Este último relatório mostra que a Anthropic acredita que a escala das atividades relacionadas se expandirá ainda mais no futuro. Só o Alibaba teve mais de 151 milhões de interações entre maio e julho, muito acima dos números divulgados anteriormente.
Ao mesmo tempo, este incidente ocorreu no contexto de uma competição cada vez mais acirrada em IA entre a China e os Estados Unidos. Nos últimos anos, as empresas chinesas de IA melhoraram rapidamente as capacidades dos seus modelos com custos relativamente baixos de formação e inferência. Produtos como DeepSeek, Kimi e Tongyi Qianwen tornaram-se atores importantes na indústria global de IA. As empresas americanas de IA possuem modelos básicos avançados, incluindo as séries Claude e GPT.
A destilação modelo em si não é uma técnica ilegal ou irracional. Os desenvolvedores de IA podem usar os dados gerados pelo modelo do professor para treinar seus próprios modelos com autorização. No entanto, a Anthropic acredita que a operação envolvida representa um problema sério porque as empresas relevantes são acusadas de obter sistematicamente as capacidades de Claude sem a autorização da Anthropic através de um grande número de contas falsas, plataformas de agências e mecanismos ocultos de encaminhamento de dados.
Mais importante ainda, a Anthropic acredita que algumas ações abordaram questões de segurança de dados de usuários. Os usuários que normalmente utilizam serviços de IA geralmente pensam que os dados que enviam para plataformas como Kimi e DeepSeek serão processados de acordo com as políticas de privacidade dessas plataformas. Se a plataforma realmente encaminhar essas solicitações para um modelo terceirizado, os usuários podem não saber que seus dados entraram no sistema de outra empresa.
Até o momento do relatório, Alibaba, Dark Side of the Moon, DeepSeek, Xiaomi e Anthropic não responderam imediatamente aos pedidos de comentários. O Ministério das Relações Exteriores da China afirmou não ter conhecimento do relatório divulgado pela Anthropic e reiterou que o governo chinês acredita que a inteligência artificial deve ser usada para beneficiar a humanidade e se opõe a distorcer os fatos e difamar a China.
O incidente divulgado pela Anthropic também trouxe à tona a controvérsia de longa data sobre destilação de modelos na indústria de IA. Para empresas com modelos básicos avançados, como evitar que os concorrentes adquiram capacidades de modelo através de automação e chamadas em grande escala tornou-se uma questão importante nas áreas de negócios e segurança. Para as empresas de aplicações de IA, a forma como lidar com os dados dos utilizadores e se os utilizadores devem ser claramente informados de que os pedidos estão a ser encaminhados para modelos de terceiros também pode tornar-se o foco da atenção regulamentar futura.
Do ponto de vista da concorrência no setor, os números divulgados pela Anthropic são particularmente dignos de nota. Mais de 151 milhões de interações relacionadas ao Alibaba, mais de 23 milhões de interações relacionadas ao Dark Side of the Moon e mais de 12 milhões de interações relacionadas ao DeepSeek mostram que a competição entre modelos avançados de IA não se trata mais apenas de algoritmos e chips no sentido tradicional, mas está se estendendo a áreas como dados de treinamento, aquisição de capacidade de modelo e destilação de modelo.
À medida que a lacuna de capacidade entre os vários modelos de IA continua a diminuir, como traçar uma linha clara entre o uso legal de tecnologia pública, a destilação normal de modelos e a duplicação não autorizada de capacidades em grande escala se tornará um problema cada vez mais difícil que a indústria global de IA deverá enfrentar no futuro.
Comentários