A NVIDIA lançou sua nova GPU H200Hopper, que agora apresenta a memória HBM3e mais rápida do mundo da Micron. Além da nova plataforma de inteligência artificial, a NVIDIA também anunciou uma grande vitória na supercomputação com seu superchip GraceHopper, que agora alimenta o supercomputador ExaflopJupiter.
A GPU H100 da NVIDIA é de longe o chip de inteligência artificial mais procurado na indústria, mas a NVIDIA quer oferecer aos clientes um desempenho ainda maior. HGXH200 é a mais recente plataforma de computação de alto desempenho com inteligência artificial, impulsionada por H200TensorCoreGPU. Essas GPUs apresentam a mais recente tecnologia de otimização Hopper em hardware e software, ao mesmo tempo que oferecem a solução de memória mais rápida do mundo até o momento.
NVIDIAH200GPU está equipado com a solução de memória de vídeo HBM3e da Micron, com capacidade de até 141 GB e largura de banda de 4,8 TB/s. Comparado com NVIDIAA100, a largura de banda aumentou 2,4 vezes e a capacidade dobrou. Em aplicações como Llama2 (70 bilhões de parâmetros LLM), esta nova solução de memória quase dobra o desempenho de inferência de IA da NVIDIA em comparação com a GPU H100.
Em termos de soluções, NVIDIAH200GPU será amplamente utilizado em servidores HGXH200 com configurações de GPU de 4 e 8 vias. A configuração de GPU H200 de 8 vias no sistema HGX fornece 32PetaFLOPs de desempenho de computação FP8 e 1,1 TB de capacidade de memória.
As GPUs também serão compatíveis com os sistemas HGXH100 existentes, facilitando a atualização de suas plataformas pelos clientes. Parceiros da NVIDIA, como ASUS, ASRockRack, Dell, Eviden, GIGABYTE, Hewlett Packard Enterprise, Inglas (Ingrasys), Lenovo (Lenovo), QCT, Wiwynn (Wiwynn), Supermicro (Supermicro) e Wistron (Wistron), esses fabricantes fornecerão soluções atualizadas quando o H200GPU for lançado no segundo trimestre de 2024.
Além de anunciar a GPU H200, a NVIDIA também anunciou um projeto de supercomputador em grande escala equipado com seu superchip GraceHopper (GH200). Este supercomputador é chamado de "Júpiter" e está localizado no Forschungszentrum Jülich, na Alemanha. Faz parte da Empresa Comum Europeia para Computação de Alto Desempenho (Empresa Comum EuroHPC) e é contratada pela Eviden e pela ParTec. Este supercomputador será usado em ciência de materiais, pesquisa climática, descoberta de medicamentos e outros campos. Este também é o segundo supercomputador lançado pela Nvidia em novembro. O anterior foi o Isambard-AI, que pode fornecer até 21 Exaflops de desempenho de inteligência artificial.
Em termos de configuração, o supercomputador Júpiter é baseado no BullSequanaXH3000 da Eviden e adota uma arquitetura totalmente refrigerada a líquido. Possui um total de 24.000 super chips Nvidia GH200 GraceHopper, que são interconectados por meio do Quantum-2 Infiniband da empresa. Considerando que cada CPU Grace contém 288 núcleos Neoverse, esperamos que Júpiter tenha quase 7 milhões de núcleos ARM somente na CPU (6,912 milhões para ser exato).
As métricas de desempenho incluem 90Exaflops para treinamento de IA e 1Exaflop para computação de alto desempenho. Espera-se que o supercomputador seja instalado em 2024. No geral, essas são atualizações importantes para o futuro, à medida que a Nvidia continua a liderar o mundo da inteligência artificial com suas poderosas tecnologias de hardware e software.