Resumo:
A Anthropic divulgou durante seu roadshow de IPO que usa o Claude Mythos Preview para ajudar a adaptar os aceleradores de IA da AMD. Uma empresa disse que Claude AI levou apenas 3 dias para que o modelo interno concluísse o processamento de texto imediato no AMD MI355X e atingisse níveis de desempenho utilizáveis.
Claude portou ou escreveu quase todo o código do kernel da GPU neste esforço com o mínimo de intervenção humana. Este caso desencadeou discussões sobre o ecossistema de software CUDA da NVIDIA e a competição com chips de IA. CUDA é o fosso da NVIDIA, mas resta saber quanto tempo esse fosso pode durar na era da IA.
Quando os modelos de IA são executados em diferentes arquiteturas de chips, eles precisam se adaptar ao código de computação subjacente, à pilha de software e aos recursos de hardware. Para obter desempenho prático, os engenheiros muitas vezes também otimizam operações de matriz, acesso à memória e comunicações multichip.
Uma empresa disse que, com base na experiência anterior da empresa, o uso de métodos tradicionais de engenharia para integrar novas plataformas de chips geralmente leva vários meses para dezenas de engenheiros (na verdade, 6 a 12 meses), mas com a participação da IA, esse processo pode ser reduzido para apenas 3 dias.
O CUDA da Nvidia, que reúne um grande número de ferramentas de desenvolvimento, bibliotecas de computação e software otimizado para GPU, tem sido uma base importante para o desenvolvimento de IA, porque a adaptação de código originalmente otimizado para hardware específico para outros chips requer o investimento de uma grande quantidade de recursos de engenharia.
Depois que a IA participar do transplante do código subjacente, ela poderá ajudar os engenheiros a escrever e ajustar os kernels da GPU com mais rapidez, e o custo e o tempo para as empresas acessarem diferentes plataformas de chips terão a oportunidade de diminuir. Nesta fase, os chips realmente adaptados pela Empresa A incluem, entre outros, NVIDIA, AMD, Google TPU e Amazon Trainium.
A AMD e a Anthropic anunciaram anteriormente que implantarão até 2 GW de potência de computação GPU baseada na série AMD MI450. A primeira implantação de 1GW está planejada para começar no primeiro semestre de 2027. Ambas as partes também usarão Claude para otimizar as cargas de trabalho de GPU AMD e acelerar o desenvolvimento de software ROCm.
Comentários