Resumo:
A NVIDIA ajustou algumas especificações de hardware da plataforma de computação de inteligência artificial Vera Rubin de próxima geração, incluindo largura de banda de memória de alta largura de banda HBM4 e largura de banda de interconexão de alta velocidade NVLink. Em comparação com indicadores anunciados ou divulgados anteriormente, as novas especificações diminuíram, mas a largura de banda da rede de expansão horizontal aumentou. Esta mudança pode significar que a Nvidia está reequilibrando o desempenho do chip, as capacidades de fornecimento e os custos do sistema com base na produção em massa real.
De acordo com as especificações da plataforma Vera Rubin anunciadas atualmente pela NVIDIA, a GPU Rubin está equipada com 288 GB de memória HBM4 e uma largura de banda de memória de 19,2 TB/s. Anteriormente, os dados técnicos da NVIDIA davam um indicador máximo de largura de banda de memória de 22 TB/s. Comparado com os dois, o valor anunciado atualmente é cerca de 12,7% inferior. É importante observar que a Nvidia usou anteriormente uma métrica de “máximo atingível”, então isso reflete mudanças nos números das especificações e não significa necessariamente que todos os produtos experimentaram uma queda igual no desempenho real.
HBM4 é uma nova geração de tecnologia de memória de alta largura de banda que usa uma interface de memória mais ampla para fornecer maior capacidade de transferência de dados para treinamento e inferência de modelos de inteligência artificial. À medida que o tamanho do modelo continua a se expandir, a GPU não apenas requer maior poder de computação, mas também deve obter continuamente uma grande quantidade de parâmetros do modelo e dados intermediários. Se a largura de banda da memória for insuficiente, mesmo que a unidade de computação tenha um alto poder computacional teórico, ela pode não ser capaz de exercer totalmente seu desempenho devido à espera pelos dados.
A alta largura de banda de memória anteriormente buscada pela plataforma Rubin também trouxe requisitos técnicos mais elevados para a cadeia de suprimentos HBM4. Os fabricantes de memória de vídeo precisam atender aos requisitos de consumo de energia, dissipação térmica, integridade de sinal e confiabilidade de longo prazo com taxas de transferência de dados mais altas. Quanto maior a especificação de largura de banda, maiores serão os desafios normalmente enfrentados pelos processos de verificação de projeto e produção em volume.
Se a NVIDIA reduzir seus requisitos de largura de banda de memória, a gama de chips HBM4 que atendem aos padrões de produtos poderá se expandir, e os fornecedores também terão a oportunidade de aumentar a proporção de produção de produtos qualificados. Isso não significa que os fabricantes de memória de vídeo devam redesenhar todo o conjunto de produtos, mas pode permitir que alguns produtos que não conseguem atingir as metas de desempenho mais altas anteriores, mas ainda atendem a novos requisitos, entrem no sistema de fornecimento, melhorando assim a capacidade geral de fornecimento.
Além da largura de banda da memória, a Nvidia também ajustou a especificação de interconexão NVLink do superchip Vera Rubin. De acordo com as informações atuais do produto, a largura de banda NVLink do super chip Vera Rubin foi ajustada dos anteriores 7,2 TB/s para 6 TB/s, uma redução de aproximadamente 16,7%. NVLink é a tecnologia de interconexão da NVIDIA para comunicação de alta velocidade entre GPUs. Ele desempenha um papel importante na troca de dados, treinamento paralelo de modelos e tarefas complexas de inferência de inteligência artificial em sistemas multi-GPU.
Em grandes clusters de inteligência artificial, gradientes, valores de ativação e outros dados intermediários precisam ser trocados frequentemente entre GPUs. A comunicação entre diferentes unidades de computação é especialmente importante para modelos grandes com arquiteturas híbridas especializadas. Portanto, a redução do indicador de largura de banda do NVLink pode afetar o desempenho de algumas tarefas de comunicação intensiva, mas o impacto final ainda depende da arquitetura do modelo, do método de agendamento do software e da carga real. A perda geral de potência de computação não pode ser simplesmente calculada com base na taxa de redução da largura de banda.
Ao mesmo tempo, a Nvidia aumentou as métricas de largura de banda para algumas redes escaláveis. Os dados existentes mostram que a largura de banda da rede de expansão horizontal do super chip Vera Rubin aumentou dos 0,8 TB/s anteriores para 0,9 TB/s. Este tipo de rede é usado principalmente para conectar diferentes nós de computação, permitindo que os data centers organizem um grande número de GPUs em um cluster de computação unificado. O aumento da largura de banda da rede pode ajudar a melhorar os recursos de transferência de dados entre nós, especialmente quando as tarefas de computação precisam ser concluídas de forma colaborativa entre servidores.
Este ajuste de um para baixo e um para cima reflete a relação de compensação no design de plataformas de computação de inteligência artificial: as capacidades de comunicação dentro da GPU e dentro do gabinete são importantes, mas à medida que a escala do cluster se expande, a comunicação entre nós também pode se tornar um fator que limita o desempenho geral. A Nvidia pode estar realocando o orçamento de desempenho em projetos de sistemas com base nas necessidades reais dos aplicativos.
No entanto, a mudança nas especificações em si não prova que a Nvidia confirmou que há falta de memória de vídeo, nem pode por si só provar que diminuir o indicador significa aumentar a produção. Explicações relevantes ainda precisam ser julgadas com base no progresso da produção em massa do fornecedor, no status de certificação do produto e nas informações subsequentes divulgadas pela Nvidia.
Para a cadeia de fornecimento do HBM4, os ajustes nas especificações podem mudar o foco da competição entre os fornecedores. Anteriormente, os fabricantes precisavam buscar velocidades de transmissão de dados mais altas; se a Nvidia reduzir os requisitos de largura de banda para produtos de produção em massa, a concorrência poderá se tornar mais focada no rendimento, na escala de fornecimento, no consumo de energia, na estabilidade e no custo. Como resultado, os fornecedores que conseguem fornecer produtos qualificados em grande escala podem obter mais oportunidades.
Do ponto de vista de toda a plataforma, Vera Rubin não depende apenas da largura de banda da memória para determinar o desempenho. O poder de computação da GPU, a capacidade de memória de vídeo, a interconexão chip a chip, a arquitetura de rede e a otimização de software determinam em conjunto o desempenho do sistema. A configuração do gabinete Vera Rubin NVL72 anunciada oficialmente pela Nvidia contém 72 GPUs Rubin e conecta várias GPUs por meio do NVLink de sexta geração para suportar treinamento de inteligência artificial em grande escala e tarefas de inferência.
Portanto, mesmo que alguns indicadores de hardware sejam inferiores aos objetivos iniciais, Vera Rubin ainda poderá alcançar desempenho superior por meio de arquitetura de computação, capacidade de memória de vídeo e otimização em nível de sistema. O que realmente merece atenção é se a Nvidia pode expandir as remessas conforme planejado após ajustar as especificações e se o treinamento real do modelo e o desempenho de inferência atendem às expectativas do cliente.
Comentários