A Meta anunciou que adotou uma nova solução de reutilização de memória em sua infraestrutura de data center. Através do chip personalizado "Vistara" desenvolvido pela própria empresa, ela conectará os cartões de memória DDR4 em servidores obsoletos à nova geração de servidores que dependem de memória DDR5, alcançando assim economia de custos e reutilização de recursos no contexto de altos preços globais de hardware e escassez de memória de longo prazo.
Os preços globais da memória e de outros componentes de hardware continuaram a subir durante o período passado. Mesmo as grandes empresas tecnológicas com enorme poder de compra começaram a procurar formas mais eficientes de controlar as despesas de capital. A abordagem da Meta é uma tentativa neste ambiente.
De acordo com o ciclo atual de operação e manutenção da Meta, seus servidores geralmente são substituídos a cada três a cinco anos, mas a vida útil real dos módulos de memória neles geralmente pode chegar a sete a dez anos. Isso faz com que, quando o servidor for desativado, os módulos de memória DDR4 que ainda estão intactos e utilizáveis tenham que ser colocados off-line, resultando em muito desperdício. Para resolver esse problema de “incompatibilidade de vida”, a Meta projetou o chip Vistara para que a memória antiga possa continuar a servir em novas plataformas, estendendo o ciclo de vida do hardware e otimizando o TCO geral.
De acordo com informações de artigos técnicos divulgados na conferência do setor ISCA, o Vistara é um chip ASIC personalizado que conecta memória DDR4 a processadores de nova geração no barramento PCIe Gen5 x16 por meio da interface CXL 2.0/1.1. Em implantações específicas, o Meta remove cartões de memória DDR4 de servidores desativados e os instala em unidades especializadas, conhecidas internamente como “MemServers”. Cada MemServer é configurado com aproximadamente 768 GB de memória DDR5 e aproximadamente 256 GB de memória DDR4 reciclada. O sistema operacional trata esses DDR4 como nós de memória adicionais. Quando os principais recursos DDR5 ficam escassos, o sistema pode agendar e usar essa memória expandida.
Meta disse que as soluções de hardware CXL prontas para uso não podem atender a essa demanda porque as interfaces CXL comuns no mercado geralmente empacotam o controlador com sua própria memória, dificultando a inserção de chips DDR4 retirados de fontes diferentes. O design do Vistara desacopla deliberadamente o controlador da memória, permitindo que o controlador exista de forma independente, permitindo que Meta insira recursos de memória DDR4 existentes conforme necessário para obter uma arquitetura de reutilização de memória altamente flexível.
Ao nível da escala, a Meta planeia implementar esta nova arquitetura na sua infraestrutura de hiperescala composta por milhões de servidores, especialmente nos centros de dados que suportam o seu negócio de inteligência artificial. À medida que a empresa continua a investir em áreas como a IA generativa, incluindo a implantação generalizada de novos modelos com capacidades de inferência e multimodais, como o Muse Spark, os requisitos de memória e capacidade de computação destes centros de dados de IA continuam a crescer. Ao reutilizar a memória DDR4, espera-se melhorar a eficiência geral e, ao mesmo tempo, garantir o desempenho.
Deve-se notar que o Meta não dependerá inteiramente de memória “recuperada”, e DDR5 e outros hardwares recém-adquiridos ainda desempenharão um papel importante em sua infraestrutura. No entanto, em cenários de data centers de grande escala, mesmo o uso de módulos de memória DDR4 reutilizados para parte da carga de trabalho é suficiente para trazer economias consideráveis de custos em operações de longo prazo e reduzir o desperdício de recursos causado pelo sucateamento de hardware.