A nova geração da plataforma de superchip GH200 GraceHopper lançada oficialmente pela NVIDIA usa memória de alta largura de banda HBM3e pela primeira vez no mundo. Ele integra CPU e GPU em uma placa-mãe pela primeira vez, o que pode atender aos requisitos de carga de IA generativa mais complexos do mundo. Hoje, o primeiro PC equipado com GH200 GraceHopper apareceu em uma loja alemã, com tamanho total de cerca de 19 polegadas.
Em termos de posicionamento, obviamente não é adequado para jogos e estações de trabalho tradicionais. Um posicionamento mais preciso deve ser uma estação de trabalho de IA que execute principalmente grandes modelos de linguagem localmente.
Este host está equipado com memória LPDDR5X de 480 GB. Contando os 96GB de memória HBM3 do GH200 (ou mesmo 144GBHBMe), chega a 576GB-624GB.
Em termos de preço, a versão de memória HBM3 de 96GB custa 47.500 euros (aproximadamente 370.000 yuans) e já está disponível para compra. A versão HBMe de 144 GB deverá ser lançada no segundo trimestre de 2024 e custa 59.500 euros (aproximadamente 460.000 yuans).
A configuração específica desta estação de trabalho AI é que o processador NVIDIAGH200 GraceHopper possui 72 núcleos ARM (há também uma versão de 144 núcleos) e está equipado com um acelerador NVIDIAH100 dedicado. Portanto, ele é equipado com fontes de alimentação duplas de 2.000 W e armazenamento de grande capacidade, e suporta várias opções de expansão de conexão (incluindo NVIDIA Bluefield/Connect-X).
O sistema de refrigeração do PC usa ventiladores Noctua, complementos, placas de rede Nvidia Bluefield-3 e ConnectX-7 opcionais, SSD de 8 TB, HDD de 30 TB, mouse e teclado e até um RTX 4060.
Em termos de desempenho, a empresa alemã afirma que esta estação de trabalho de IA pode fornecer desempenho computacional de 67teraFLOPSFP64, 989teraFLOPSTF32, 1979teraFLOPSFP16, 3958teraFLOPSFP8 e 3958TOPSINT8.
Em 23 testes de softwares como EmeraldRapids e Bergamo, a conclusão é que o desempenho do GH200GraceCPU é comparável ao processador Intel Xeon Platinum 8592+EmeraldRapids.