Resumo:
Além de melhorar os recursos do modelo, descobriu-se que o mais recente Claude Opus 5.5 da Anthropic também adicionou um mecanismo de restrição especial para cenários de desenvolvimento de modelos de linguagem grandes e de ponta. Quando os usuários usam o Opus 5.5 para desenvolver o kernel subjacente para uma nova geração de modelos de IA, o sistema pode não usar diretamente o Opus 5.5 mais recente, mas voltar automaticamente para o Opus 5 com capacidades inferiores. O que é mais digno de nota é que atualmente se descobriu que este conjunto de restrições parece ter como alvo alguns aceleradores de IA da Huawei e da Amazon.
Anthropic explicou no documento de suporte do Opus 5.5 que o modelo possui um classificador dedicado para “desenvolvimento LLM de ponta” e cobre uma gama limitada de tarefas, como desenvolvimento de kernel para alguns aceleradores de aprendizado de máquina. O objetivo desse tipo de classificador é determinar se a solicitação atual do usuário envolve o desenvolvimento do próprio modelo de linguagem grande e de ponta. Assim que as condições relevantes forem acionadas, Claude retornará automaticamente do Opus 5.5 para o Opus 5.
O chamado núcleo de IA refere-se a uma série de operações de computação no nível mais baixo ao executar um modelo de inteligência artificial. O kernel é responsável por decidir como o modelo utiliza os recursos computacionais e a memória do chip e como realizar diversas operações matemáticas. Como essas operações determinam diretamente como os cálculos matemáticos são mapeados para o processador real, o design do kernel afeta diretamente a velocidade de execução, o uso de memória, a precisão e o custo de inferência de grandes modelos de linguagem. Para treinar e executar os modelos de IA mais avançados, a otimização do kernel para aceleradores de IA específicos costuma ser uma etapa crítica.
Esta limitação foi descoberta pelos usuários na documentação de suporte após o lançamento oficial do Opus 5.5. A Anthropic já usou classificadores em alguns modelos para identificar solicitações potencialmente arriscadas e, desta vez, aplicou mecanismos semelhantes ao desenvolvimento de modelos de IA de ponta.
A Anthropic deixou claro que essas restrições não afetarão a grande maioria da inteligência artificial tradicional, da pesquisa de aprendizado de máquina e das tarefas comuns de programação. Somente quando um pequeno número de capacidades de desenvolvimento de LLM de ponta estiver envolvido, o sistema poderá acionar o mecanismo de reversão. Portanto, para desenvolvedores comuns, o uso do Opus 5.5 na programação diária, no desenvolvimento de aplicativos de IA e na pesquisa de aprendizado de máquina basicamente não será afetado.
Mas depois de mais testes, alguns usuários descobriram que o Opus 5.5 parece reconhecer especificamente alguns chips de IA. De acordo com os resultados dos testes públicos atuais, este conjunto de classificadores envolve pelo menos o Ascend 950DT da Huawei e o chip Trainium3 AI desenvolvido pela própria Amazon. Dito isto, se os desenvolvedores usarem o Opus 5.5 para desenvolver kernels subjacentes para modelos de linguagem grandes e de ponta para esses chips, os modelos poderão mudar automaticamente para o Opus 5.
Não é surpreendente que os chips da Huawei estejam incluídos nesta restrição. A Anthropic intensificou nos últimos anos a sua guarda contra a capacidade das entidades chinesas de obter os seus modelos e vê a destilação de modelos como uma importante questão de segurança e segurança nacional. A chamada destilação de modelo refere-se a chamar um modelo mais capaz em grandes quantidades, extrair seu comportamento e características de capacidade e, em seguida, usar esses dados para treinar outro modelo. O recente relatório de inteligência de ameaças da Anthropic revelou que a empresa descobriu que várias organizações relacionadas à China realizaram atividades de destilação não autorizadas contra os modelos da série Opus de Claude e, portanto, fortaleceram ainda mais a identificação de contas, a interceptação de solicitações e os mecanismos de proteção do processo de inferência.
A Anthropic também adicionou medidas antidestilação mais rigorosas no Opus 5.5, incluindo a restrição de que os usuários da API modifiquem o contexto de conversação anterior do modelo para evitar a extração de informações de raciocínio interno do modelo manipulando repetidamente o contexto. A empresa afirmou que tais medidas visam principalmente atividades de extração de capacidade industrial em grande escala, e não a utilização normal por utilizadores comuns.
Portanto, quando o Opus 5.5 detecta solicitações de desenvolvimento de modelos de ponta envolvendo o acelerador de IA da Huawei, o mecanismo de restrição pode ter antecedentes técnicos e geográficos óbvios. No entanto, atualmente não existem evidências suficientes para mostrar se a Anthropic concebeu este conjunto de regras especificamente para a Huawei, ou se inclui tipos específicos de aceleradores de IA como um todo no âmbito das restrições.
O que é realmente surpreendente é que o Amazon Trainium 3 também parece ser afetado da mesma forma.
A Amazon não é apenas uma grande empresa global de computação em nuvem, mas também uma importante parceira e investidora da Anthropic. O próprio modelo Claude da Anthropic é fornecido a clientes corporativos por meio da Amazon Web Services, enquanto a série Trainium é um chip de treinamento e inferência de IA desenvolvido de forma independente pela Amazon para reduzir a dependência da computação de inteligência artificial em nuvem em GPUs Nvidia. Portanto, se o Opus 5.5 restringir o Trainium3 para o desenvolvimento de modelos de kernel de ponta, a Amazon poderá ser afetada pelo mesmo conjunto de restrições técnicas que a Huawei.
Não está claro se esta situação foi intencional pela Anthropic ou se o classificador cometeu um erro de julgamento inesperado ao identificar um chip de IA específico. Testes relevantes mostram que o Opus 5.5 parece ser capaz de identificar diferentes plataformas de hardware e decidir se permite o modelo mais recente com base no conteúdo da solicitação, mas a Anthropic não explicou publicamente por que o Trainium3 acionaria restrições ao mesmo tempo que o Huawei 950DT.
Essa situação é particularmente digna de nota porque a Anthropic enfatizou anteriormente que seus modelos podem ser amplamente fornecidos por meio de plataformas de nuvem como AWS, e o Opus 5.5 chegou oficialmente a plataformas como Amazon Web Services, Google Cloud e Microsoft Azure. Se esta limitação se estender a mais aceleradores de IA para treinar modelos avançados no futuro, então as parcerias entre empresas de computação em nuvem e empresas de modelos de IA poderão exigir uma coordenação mais complexa entre capacidades de modelo, suporte de hardware e restrições de segurança.
Do ponto de vista técnico, a abordagem da Anthropic desta vez também reflete uma nova tendência: à medida que o próprio modelo de IA começa a ajudar os humanos a projetar e otimizar a próxima geração de modelos de IA, os fabricantes de modelos precisam começar a distinguir entre os dois tipos de tarefas: "usar IA para desenvolver aplicações" e "usar IA para desenvolver IA mais forte".
Para programadores comuns, permitir que o Opus 5.5 ajude a escrever aplicativos, depurar código ou conduzir experimentos de aprendizado de máquina geralmente não aciona restrições especiais. Mas se o mesmo modelo for usado para desenvolver o núcleo de computação subjacente da próxima geração de modelos de linguagem de grande porte de ponta, a Anthropic poderá considerar que isso entrou em outro nível de risco e fazer com que a solicitação retorne automaticamente ao modelo mais antigo.
Isso significa que o próprio modelo de IA está gradualmente se tornando parte da infraestrutura de P&D de IA. No passado, restringir a utilização de modelos significava principalmente restringir determinados conteúdos perigosos ou áreas sensíveis; agora, os fabricantes de modelos estão começando a considerar questões como “quem pode usar os modelos mais recentes para fabricar modelos de próxima geração” e “se os modelos mais recentes devem ajudar os concorrentes a otimizar sua própria infraestrutura de computação de IA”.
Atualmente, a Anthropic não declarou publicamente por que o Trainium3 aciona restrições ao mesmo tempo que o Huawei 950DT, nem ficou claro se esse mecanismo continuará a existir em versões futuras. À medida que mais e mais empresas começam a desenvolver os seus próprios aceleradores de IA, esta limitação em hardware específico e tarefas de desenvolvimento de modelos de ponta provavelmente se tornará um novo problema que os fabricantes de modelos de IA precisam enfrentar ao fazer compromissos entre segurança, prevenção de destilação de capacidade e ecologia de hardware.
Comentários