Resumo:
A Anthropic disse que seu mais recente modelo de IA, Claude Mythos Preview, reduziu significativamente o tempo de desenvolvimento de software necessário para implantar modelos de inteligência artificial em plataformas de GPU AMD. Segundo a empresa, no passado esse trabalho normalmente levava de 6 a 12 meses e exigia dezenas de engenheiros para ser concluído, mas Claude Mythos pode concluir o trabalho crítico de adaptação de software em cerca de três dias, quase sem intervenção manual. Este desenvolvimento pode enfraquecer as barreiras competitivas que a Nvidia estabeleceu há muito tempo com base no ecossistema de software CUDA.

O cofundador e diretor de computação da Anthropic, Tom Brown, apresentou os resultados durante o roadshow de IPO da empresa aos investidores. Ele disse que Claude Mythos pode portar ou escrever automaticamente quase 100% do código do kernel da GPU, permitindo que os modelos Claude rodem no acelerador AMD Instinct MI355X. Anteriormente, trabalhos semelhantes de adaptação de hardware frequentemente exigiam uma equipe de dezenas de engenheiros e levavam vários meses.
No entanto, os três dias divulgados pela Anthropic têm um escopo de aplicação claro, o que não significa que todo o processo de implantação do modelo, verificação do ambiente de produção e otimização de desempenho possa ser concluído em três dias. A nota de rodapé do material do roadshow aponta que esta conquista visa especificamente um modelo Antrópico que completa a tarefa de processamento de texto imediato (Prefill) na GPU AMD MI355X e atinge um nível de desempenho que é de valor de uso prático. A Anthropic não informou claramente se a etapa de resposta de geração do modelo (Decode) também está incluída.
O núcleo da GPU é uma conexão importante entre o software de inteligência artificial e o hardware subjacente. É responsável por converter tarefas de cálculo de modelo em instruções que podem ser executadas com eficiência em um processador específico. Existem diferenças na arquitetura da GPU, nos sistemas de memória e nas unidades de computação de diferentes fabricantes, portanto, o mesmo modelo de IA geralmente precisa escrever ou ajustar o código subjacente para diferentes plataformas de hardware. Este tipo de trabalho tem sido uma importante fonte de vantagens para o ecossistema CUDA da NVIDIA.
A plataforma CUDA da NVIDIA foi desenvolvida há quase 20 anos e possui compiladores maduros, ferramentas de desenvolvimento, bibliotecas de otimização e uma grande comunidade de desenvolvedores. A AMD possui sua própria plataforma de software ROCm e oferece suporte a tarefas de computação relacionadas por meio da camada de programação HIP. Para ajudar os desenvolvedores a migrar o código CUDA para a plataforma AMD, a AMD lançou anteriormente a ferramenta HIPify. No entanto, a conversão de código não significa que todos os programas possam obter diretamente o desempenho ideal. Os desenvolvedores geralmente ainda precisam fazer muita depuração e otimização.
Os avanços nas ferramentas de programação de IA estão mudando esta situação. Anush Elangovan, vice-presidente de software de inteligência artificial da AMD, disse em abril deste ano que Claude tem uma vantagem sobre o HIPify na conversão de código porque possui recursos integrados de pesquisa na web e pode obter mais informações técnicas durante o processamento. A AMD já havia demonstrado resultados de pesquisas usando agentes de IA para escrever automaticamente kernels de GPU, mas os primeiros sistemas ainda eram inferiores aos especialistas humanos em alguns testes.
A Antthropic não depende apenas de GPUs Nvidia para rodar seus modelos. A empresa usou simultaneamente diferentes tipos de aceleradores, como GPUs NVIDIA e AMD, Google TPU e Amazon AWS Trainium, e gerenciou unificadamente esses recursos de hardware em um pool de recursos de computação programado de forma flexível. Tom Brown anteriormente considerou a decisão inicial da empresa de adotar uma estratégia de plataforma multi-chip uma escolha incomum. Esta estratégia pode tornar-se mais atrativa à medida que o tempo de adaptação do software for significativamente reduzido.
A Antthropic começou a usar GPUs AMD pela primeira vez este ano e chegou a um acordo de cooperação com a AMD envolvendo até 2 gigawatts de potência computacional. De acordo com informações divulgadas anteriormente por ambas as partes, a AMD também está usando Claude para otimizar a carga de trabalho das GPUs da série Instinct e acelerar o desenvolvimento da plataforma de software ROCm. A AMD acredita que a geração automática de código do kernel pela IA deverá reduzir ainda mais o limite técnico para os clientes adotarem seus aceleradores.
Na verdade, a administração da AMD tem falado repetidamente sobre o impacto das ferramentas de programação de IA no ecossistema de software da GPU. O CEO da AMD, Su Zifeng, disse em setembro do ano passado que uma grande quantidade de software de IA foi originalmente desenvolvida em torno de CUDA, mas uma parte considerável do código agora pode ser convertida em um formato adequado para plataformas AMD por meio de ferramentas de software. Em julho deste ano, o vice-presidente sênior da AMD, Vamsi Boppana, também disse que se espera que a IA elimine as barreiras de software restantes ao adotar as GPUs AMD.
No evento AMD Advancing AI realizado em julho deste ano, Philippe Tillet da OpenAI também falou sobre o papel dos agentes de IA no desenvolvimento do núcleo da GPU. Ele disse que depois que a OpenAI obteve o rack AMD Helios, levou apenas alguns dias para um engenheiro confirmar se o sistema estava funcionando corretamente, observando que os agentes de IA estão gradualmente assumindo parte do trabalho que costumava ser responsabilidade dos engenheiros do kernel. A AMD também revelou que um engenheiro pediu a Claude para ajudar a inicializar o rack MI355X e manter o sistema funcionando durante o fim de semana.
Os dados divulgados pela Anthropic chamaram a atenção porque os resultados relevantes não são mais apenas demonstrações ou publicidade da própria AMD. Como uma empresa de IA que realmente compra e usa chips, a Anthropic divulgou aos investidores mudanças ao longo do tempo em suas próprias práticas de engenharia. O documento do prospecto do IPO também mencionou que, com a ajuda de Claude, a empresa conseguiu introduzir novas plataformas de chips no ambiente de produção com um investimento de engenharia muito menor do que no passado, embora o documento não fornecesse um valor específico para três dias.
No entanto, a melhoria na velocidade de adaptação não prova diretamente que a GPU da AMD se igualou à Nvidia em desempenho. A Anthropic não anunciou a velocidade real de execução de Claude no MI355X, nem forneceu dados de comparação de desempenho com hardware semelhante da Nvidia. O relatório destacou ainda que embora o gráfico apresentado pela empresa marcasse o progresso da adaptação de ambas as soluções como próximo dos 100%, não explicava detalhadamente a que conteúdo de trabalho corresponde este rácio.
O CEO da Nvidia, Jensen Huang, afirmou anteriormente que a própria empresa também usa IA para auxiliar no desenvolvimento de núcleos de GPU e acredita que ninguém entende sua própria arquitetura de chip melhor do que a Nvidia, então a Nvidia pode utilizar totalmente o desempenho do hardware. Em relação à adoção de outros aceleradores por empresas como a Anthropic, ele certa vez chamou a Anthropic de um caso especial e não de uma tendência do setor.
Ao mesmo tempo, a gravação automática de núcleos de GPU por IA também enfrenta novos gargalos de recursos. Uma análise publicada pela SemiAnalysis em julho deste ano acredita que os custos de desenvolvimento de software estão diminuindo, mas o código gerado pelos agentes de IA ainda precisa ser testado e verificado em GPUs reais. Cada agente requer recursos de GPU correspondentes para executar testes, e os recursos de GPU internos da AMD para tal desenvolvimento são insuficientes, o que pode se tornar uma restrição para uma maior expansão dos aplicativos.
No geral, a importância da demonstração de Claude Mythos não é apenas o fato de ela encurtar um processo específico de desenvolvimento de software, mas também de que a IA pode alterar o custo da migração de software entre diferentes plataformas de GPU. As vantagens do CUDA não desaparecerão imediatamente. Sua cadeia de ferramentas madura, ecossistema de desenvolvedores e experiência acumulada em otimização de desempenho de longo prazo ainda são valiosos. No entanto, se a IA puder concluir cada vez mais automaticamente o transplante de código, a escrita do kernel e a adaptação de hardware, os clientes poderão ficar menos dependentes de ecossistemas de software específicos ao escolher GPUs. Concorrentes como a AMD também terão a oportunidade de conquistar clientes que originalmente usavam principalmente plataformas Nvidia com custos de migração mais baixos.
Comentários