Resumo:
A rápida expansão da indústria global de inteligência artificial está causando sérias escassez no fornecimento de chips de memória, especialmente o aumento na demanda por memória de alta largura de banda (HBM), que colocou a capacidade de produção tradicional de DRAM sob pressão para realocar. Neste contexto, o antigo CEO da Intel, Pat Gelsinger, aposta num novo tipo de tecnologia de memória, na esperança de resolver os problemas de longo prazo de capacidade, largura de banda e consumo de energia enfrentados pelos chips de IA, alterando a forma como as células de memória tradicionais são concebidas.
A tecnologia se chama Z2RAM e foi desenvolvida pela start-up norte-americana Nagare Labs. A empresa foi fundada pelos pesquisadores do Instituto de Tecnologia da Geórgia, Suman Datta e Shimeng Yu. Sua base de pesquisa vem de anos de exploração de novas tecnologias de armazenamento, como memória ferroelétrica e memória resistiva de acesso aleatório.
A Playground Global, instituição de investimento na qual Kissinger está atualmente envolvido, liderou a rodada inicial de financiamento de US$ 5 milhões da Nagare Labs. Ele demonstrou grande interesse nesta tecnologia e acredita que a Z2RAM tem a oportunidade de combinar as vantagens da SRAM, DRAM e memória flash para criar um novo tipo de memória com alta densidade, alta velocidade e escalabilidade.
Kissinger destacou que nas últimas três décadas, as principais tecnologias de armazenamento que foram amplamente comercializadas não sofreram mudanças fundamentais. As memórias flash SRAM, DRAM e NAND ainda constituem a base de armazenamento dos equipamentos de computação modernos. No entanto, à medida que os requisitos computacionais da inteligência artificial crescem rapidamente, as limitações das arquitecturas de armazenamento tradicionais tornam-se cada vez mais óbvias.
O avanço mais importante desta tecnologia é redesenhar a forma como a célula de memória armazena carga.
A DRAM tradicional geralmente usa uma estrutura 1T1C, ou seja, um transistor é emparelhado com um capacitor, e o capacitor armazena carga para representar os dados. Como a carga no capacitor vaza com o tempo, a DRAM deve atualizar os dados periodicamente, e o processo de leitura é destrutivo e requer reescrita após a leitura.
A SRAM usa um design diferente, geralmente exigindo seis transistores para formar uma célula de memória. Ele não precisa ser atualizado periodicamente como a DRAM, e a velocidade de leitura é muito rápida, por isso é amplamente utilizado como cache dentro do processador. No entanto, o preço é que a área da unidade de armazenamento é maior e o custo de fabricação é alto, dificultando a expansão em larga escala e de alta densidade, como DRAM e NAND.
Z2RAM tenta encontrar um novo equilíbrio entre os dois. Ele usa dois transistores para formar uma unidade de memória, em vez de usar um capacitor separado na DRAM tradicional. Em vez disso, ele usa a capacitância da porta do segundo transistor para armazenar carga.
Suman Datta, cofundador do Nagare Labs, explicou que este design permite uma leitura não destrutiva. Em outras palavras, ao ler dados, não há necessidade de consumir a carga de armazenamento e depois realizar uma operação de reescrita como a DRAM tradicional, portanto, espera-se reduzir a latência de acesso e melhorar a eficiência geral do armazenamento.
Em termos de densidade, o Nagare Labs prevê que a densidade de armazenamento por unidade de área da Z2RAM de primeira geração pode ser mais de cinco vezes maior que a da SRAM tradicional. Por exemplo, se a SRAM da mesma área puder fornecer capacidade de 64 MB, então usando Z2RAM, a capacidade pode, teoricamente, ser aumentada para cerca de 320 MB, mantendo um nível de largura de banda próximo ao da SRAM.
Isso é especialmente importante para processadores de inteligência artificial. Atualmente, os aceleradores de IA dependem cada vez mais da HBM para fornecer enorme largura de banda de memória, mas a HBM exige tecnologia de empacotamento de empilhamento complexa, altos custos de fabricação e limitações no consumo de energia e na área de empacotamento.
Por outro lado, alguns processadores usados especificamente para inferência de IA usam uma grande quantidade de SRAM no chip para minimizar o atraso do processador no acesso à memória externa. No entanto, a densidade da SRAM é limitada, fazendo com que o chip faça um compromisso entre capacidade e unidades de computação dentro de uma área limitada.
Por exemplo, a LPU NVIDIA Groq 3 usa uma grande quantidade de SRAM como recursos de armazenamento no chip, e a capacidade de SRAM de um único chip é de aproximadamente 500 MB. De acordo com a visão técnica do Nagare Labs, se o Z2RAM puder atingir a densidade cinco vezes esperada, então a mesma área poderá acomodar várias vezes os dados da SRAM tradicional. Isto pode reduzir o número de processadores necessários para grandes sistemas de inferência de IA e reduzir a pressão sobre os dados a serem transferidos entre diferentes chips.
Outra característica importante do Z2RAM é o uso de materiais semicondutores de óxido, que são planejados para serem integrados diretamente no topo do chip lógico de computação por meio da tecnologia de ligação híbrida 3D.
Isso significa que não é necessário depender inteiramente da arquitetura tradicional de separar o chip de memória do processador. Em vez disso, tem a oportunidade de empilhar camadas de armazenamento de alta densidade diretamente perto do chip de computação para encurtar a distância de transmissão de dados. Sua ideia de design é um pouco semelhante ao empilhamento de cache SRAM adicional da AMD no processador por meio da tecnologia 3D V-Cache, mas o Z2RAM espera fornecer maior densidade de armazenamento.
Em termos de tecnologia de fabricação, o Nagare Labs também planeja aproveitar a ideia de empilhamento vertical da memória flash NAND para construir múltiplas camadas de armazenamento, camada por camada. Ao contrário da HBM e da LPDDR, que dependem de pacotes complexos de memória de alta densidade, a empresa espera alcançar uma fabricação multicamadas relativamente simples por meio de semicondutores de óxido e processos de back-end. Se esta solução for bem-sucedida, terá a oportunidade de reduzir o custo de fabricação de armazenamento on-chip de grande capacidade.
No entanto, o Z2RAM ainda está em um estágio inicial de desenvolvimento. A Nagare Labs acaba de concluir uma rodada inicial de financiamento de US$ 5 milhões. Os resultados nesta fase são principalmente protótipos de laboratório e ainda não entraram na fase madura de fabricação de chips.
A empresa está procurando parceiros fabris que possam fornecer recursos de P&D e fabricação, na esperança de avançar a tecnologia desde o ambiente de sala limpa de um laboratório universitário até a verificação de produção em larga escala. De acordo com o plano atual, a Nagare Labs espera fornecer amostras funcionais de chips de memória Z2RAM nos próximos quatro anos e se esforçar para alcançar remessas comerciais nos próximos dez anos.
Ao mesmo tempo, esta tecnologia também enfrenta muitos desafios de engenharia.
O primeiro é o problema de integração com chips de computação. Z2RAM precisa ser conectado ao processador ou acelerador de IA por meio de ligação híbrida 3D, mas a indústria ainda não formou um padrão de interface unificado adequado para este novo tipo de memória. Os pesquisadores da Georgia Tech disseram que, sem padrões industriais maduros, o Nagare Labs pode precisar desenvolver sua própria tecnologia de interface, o que aumentará a complexidade do design e comercialização do produto.
O segundo é a confiabilidade do material. Os semicondutores de óxido têm certas vantagens em estabilidade térmica e resistência à radiação, mas defeitos como vagas atômicas podem ocorrer dentro do material. Esses defeitos microscópicos podem afetar a tensão limite do transistor, e mesmo pequenas alterações de tensão podem causar erros de dados na célula de memória.
Para produtos de memória, a confiabilidade costuma ser mais importante que o desempenho máximo no laboratório. Qualquer nova tecnologia de armazenamento deve passar por retenção de dados de longo prazo, vida útil de leitura e gravação, mudanças de temperatura e verificação de consistência de fabricação antes de poder realmente entrar no mercado comercial.
O cofundador do Nagare Labs também admitiu que houve um grande número de startups de memória na história que tentaram desafiar a tecnologia tradicional de DRAM e memória flash, mas falharam. Mesmo que uma tecnologia tenha um bom desempenho no laboratório, isso não significa que passará pelos rigorosos padrões de qualidade da indústria de semicondutores e entrará na cadeia de fornecimento dos sistemas de computação existentes.
A razão pela qual Kissinger está otimista em relação ao Z2RAM está intimamente relacionada ao gargalo de memória enfrentado pela atual indústria de IA. O treinamento e a inferência de grandes modelos de linguagem não exigem apenas um poderoso poder de computação, mas também a alimentação contínua de grandes quantidades de dados ao processador. Quando a velocidade de processamento da unidade de computação excede em muito a capacidade de fornecimento de dados da memória, o processador deve esperar pelos dados, resultando em recursos de computação caros que não podem ser totalmente utilizados.
Atualmente, o HBM é a principal solução para resolver o problema de largura de banda de memória dos aceleradores de IA, mas não é isento de falhas. Gelsinger acredita que se a Z2RAM conseguir atingir o desempenho esperado, terá a oportunidade de fornecer soluções diferentes da HBM existente em termos de densidade de armazenamento, velocidade e consumo de energia.
É importante notar que Z2RAM não é uma tecnologia que possa resolver a escassez global de DRAM e HBM no curto prazo. Mesmo que amostras de engenharia estejam disponíveis nos próximos quatro anos, a comercialização em larga escala ainda está muito distante. A atual oferta limitada de memória global é causada principalmente pelo aumento na demanda de data centers de IA, e pela Samsung, SK Hynix e Micron transferindo mais capacidade de produção para HBM e produtos de memória de servidor.
Ars Técnica
+2
Se a Z2RAM puder eventualmente atingir a produção em massa, seu significado mais importante poderá residir na mudança da arquitetura de armazenamento dos processadores futuros, em vez de simplesmente aumentar a oferta de chips de memória tradicionais. Espera-se que isso permita que os processadores de IA obtenham maior espaço de armazenamento de alta velocidade dentro do chip, reduzam a dependência da largura de banda da memória externa e forneçam novas opções de design para a próxima geração de aceleradores de IA.
De SRAM a DRAM e à memória flash NAND, a indústria de semicondutores formou um sistema de tecnologia de armazenamento relativamente maduro. Z2RAM tenta quebrar o compromisso de longa data entre desempenho e densidade entre essas tecnologias. No entanto, ainda é um conceito técnico em fase de laboratório. Se ele poderá eventualmente ser transformado de um resultado de pesquisa científica em um produto comercial competitivo, exigirá tempo e testes no processo de fabricação.
Comentários