Como a primeira empresa a fornecer memória HBM3E, a Micron revelou que sua memória avançada de alta largura de banda (2024) está esgotada e a maior parte da produção em 2025 foi alocada. A memória HBM3E da Micron (ou como a Micron também é chamada, HBM3Gen2) é uma das primeiras memórias a ser certificada para os mais recentes aceleradores H200/GH200 da Nvidia, então parece que o fabricante de DRAM se tornará um fornecedor importante para a empresa no centro das atenções.
“Nosso HBM 2024 foi esgotado e a grande maioria de nosso fornecimento de 2025 foi alocada”, disse o CEO da Micron, Sanjay Mehrotra, em comentários preparados para a teleconferência de resultados desta semana. “Ainda esperamos que, em algum momento de 2025, o compartilhamento de bits da HBM seja comparável ao nosso compartilhamento geral de bits de DRAM.”
O primeiro produto HBM3E da Micron é uma pilha de 8 Hi24 GB com uma interface de 1024 bits, taxa de transferência de dados de 9,2 GT/s e largura de banda total de 1,2 TB/s. O acelerador H200 da Nvidia para inteligência artificial e computação de alto desempenho usará seis desses cubos, fornecendo um total de 141 GB de memória acessível de alta largura de banda.
“Estamos no caminho certo para gerar centenas de milhões de dólares em receitas da HBM no ano fiscal de 2024, e espera-se que a receita da HBM aumente nossa DRAM e margem bruta geral a partir do terceiro trimestre fiscal”, disse Mehrotra.
A empresa também começou a testar sua pilha de 36 GB de 12 Hi, que oferece 50% mais capacidade. Esses KGSDs serão produzidos em massa em 2025 e serão usados em produtos de inteligência artificial de próxima geração. Enquanto isso, o B100 e o B200 da Nvidia não parecem usar a pilha HBM3E de 36 GB, pelo menos inicialmente.
A demanda por servidores de IA atingiu recordes no ano passado e deve permanecer alta também este ano. Alguns analistas acreditam que os processadores A100 e H100 da Nvidia (e seus vários derivados) representarão até 80% de todo o mercado de processadores de inteligência artificial em 2023. Embora a Nvidia enfrente uma concorrência mais acirrada em inferência este ano da AMD, AWS, D-Matrix, Intel, Tenstorrent e outros, o H200 da Nvidia parece destinado a continuar sendo o processador preferido para treinamento de IA, especialmente para grandes empresas como Meta e Microsoft, que já operam frotas de centenas de milhares. de aceleradores Nvidia. Com isso em mente, tornar-se o principal fornecedor de HBM3E para o H200 da Nvidia é um grande negócio para a Micron, pois permite que a Micron finalmente conquiste uma fatia considerável do mercado de HBM.
Ao mesmo tempo, como cada dispositivo DRAM na pilha HBM possui uma interface mais ampla, ele é maior em tamanho físico do que um IC DDR4 ou DDR5 comum. Portanto, a produção em massa de memória HBM3E afetará o fornecimento de bits da DRAM commodity da Micron.
“O crescimento na produção da HBM limitará o crescimento da oferta de produtos não-HBM”, disse Mehrotra. “Olhando para a indústria como um todo, o HBM3E consome aproximadamente três vezes o fornecimento de wafer do que o DDR5 para produzir um determinado número de bits no mesmo nó de tecnologia.”