A Samsung está desenvolvendo memória de alta largura de banda (HBM) especificamente para smartphones e tablets, e planeja usar tecnologia de empacotamento complexa para transformar esses terminais móveis em poderosas plataformas de computação locais de IA. Atualmente, o HBM é implantado principalmente em servidores e data centers, e a Samsung espera usar esse formato DRAM de alto desempenho para expandir ainda mais suas margens de lucro sob a onda de IA, sem perder nenhum mercado potencial.
O relatório apontou que o objetivo da Samsung desta vez é desenvolver a tecnologia HBM adaptada a dispositivos móveis, que pode aumentar significativamente o poder de computação e a largura de banda sem aumentar significativamente a ocupação de espaço e a carga de consumo de energia, apoiando assim tarefas mais complexas de inferência de IA no lado final. Em comparação, a DRAM móvel existente ainda é dominada pela ligação de fios de cobre, e seus terminais de E/S estão geralmente na faixa de 128 a 256. O tamanho limitado dos pinos tem gargalos óbvios na melhoria da largura de banda e na redução da perda de sinal e do calor.
Para resolver este problema, a Samsung planeja introduzir “pilares de cobre com proporção de aspecto ultra-alta” em conjunto com Fan-Out Wafer Level Packaging (FOWLP) em smartphones e tablets. Esta solução de empacotamento já foi aplicada a chips de nível de sistema, como o Exynos 2600, para melhorar a dissipação de calor e melhorar o desempenho sob carga sustentada. Com base nisso, a Samsung espera portar o HBM de nível de servidor para o terminal móvel de uma forma mais compacta para fornecer maior largura de banda de memória e capacidades de transferência de dados para modelos locais de IA.
O relatório citou fontes dizendo que através do progresso no campo do Vertical Copper Post Stack (VCS), a Samsung pode empilhar matrizes DRAM multicamadas em uma estrutura de "escada" em um espaço limitado e, em seguida, usar postes de cobre para preencher as lacunas, alcançando assim o empacotamento HBM multicamadas em dispositivos móveis com volume limitado. Em comparação com as soluções tradicionais, a Samsung aumentou a proporção dos pilares de cobre no pacote VCS do original 3–5:1 para 15–20:1, uma mudança que melhora significativamente o desempenho geral da largura de banda.
No entanto, este design de elevada relação de aspecto também traz novos desafios: à medida que a relação de aspecto aumenta, o diâmetro dos pilares de cobre deve ser reduzido. Quando o diâmetro for inferior a 10 mícrons, os pilares de cobre podem entortar ou até mesmo quebrar, afetando a confiabilidade estrutural. Para este fim, o FOWLP fornece estruturalmente suporte mecânico adicional, estendendo a fiação de cobre para fora para melhorar a estabilidade do pacote geral. Também expande o número de terminais de E/S disponíveis, aumentando ainda mais a largura de banda. Os relatórios estimam que o aumento da largura de banda pode chegar a aproximadamente 30%.
Não está claro quando o HBM desenvolvido pela Samsung para dispositivos móveis será oficialmente comercializado, mas a julgar pelo calendário, espera-se que esta tecnologia seja a primeira a ser instalada na futura plataforma Exynos 2800 ou Exynos 2900. Houve rumores anteriores de que o Exynos 2800 usará a GPU desenvolvida pela própria Samsung e não se limitará à linha de produtos de smartphones, o que aumenta ainda mais a importância dos subsistemas de armazenamento de alta largura de banda e alto rendimento.
Além da Samsung, também foi revelado que a Apple planeja usar HBM em futuros iPhones para melhorar a experiência de IA do dispositivo, mas atualmente não está claro se comprará tecnologia ou componentes relacionados da Samsung. A Huawei também está explorando a possibilidade de introduzir o HBM em smartphones. No entanto, considerando fatores como cadeia de abastecimento e geopolítica, a indústria acredita que a possibilidade de a Samsung entrar no sistema de abastecimento dos fabricantes chineses é baixa.
Contudo, além da via técnica, a questão do custo ainda é um limiar fundamental que determina se a HBM pode implementar terminais móveis em larga escala. O relatório apontou que no atual ambiente de preços elevados de memória, os fabricantes de smartphones podem avaliar com mais cuidado a viabilidade económica de adicionar HBM aos seus dispositivos e optar por esperar para ver, esperando que os preços caiam antes de fazer planos.
Sob esta circunstância, nos próximos anos, os principais meios para melhorar as capacidades locais de IA de smartphones e tablets ainda podem se concentrar no poder de computação do chip e na otimização do sistema de armazenamento (como LPDDR de alto desempenho ou interfaces de armazenamento mais rápidas), em vez da adoção em larga escala de HBM de custo mais elevado. No entanto, assim que a oferta e a procura do mercado de memória voltarem ao equilíbrio e os preços se estabilizarem, espera-se que os fabricantes representados pela Samsung utilizem a HBM móvel para alargar o armazenamento de alta largura de banda dos centros de dados aos terminais pessoais, redefinindo o limite superior da experiência local de IA.