Resumo:
À medida que a indústria tecnológica global continua a aumentar a construção de infra-estruturas de inteligência artificial, um novo estrangulamento está a emergir gradualmente. O problema não é mais que chips avançados não possam ser adquiridos, mas que mesmo que um grande número de GPUs de alto desempenho seja obtido, os data centers podem não ter energia suficiente para colocá-los em operação.
De acordo com relatos, a unidade de computação em nuvem da Amazon, AWS, está comprando os mais recentes sistemas de servidores de IA da Nvidia em um ritmo sem precedentes. De acordo com o planejamento interno, esperava-se que a AWS recebesse racks de servidores NVIDIA GB300 no valor de aproximadamente US$ 5 bilhões e planeja continuar comprando equipamentos relacionados em uma escala mensal de aproximadamente US$ 3 bilhões no futuro. Contudo, alguns equipamentos não são colocados em utilização imediatamente após a entrega, mas são armazenados temporariamente em armazéns ou instalações de transferência.
A razão para este fenómeno não é a procura insuficiente, mas sim o facto de alguns centros de dados já terem espaço de instalação, não terem capacidade de fornecimento de energia suficiente para alimentar estes sistemas de IA de alta potência. A indústria se refere a esse tipo de equipamento que foi adquirido, mas está temporariamente impossibilitado de operar como “dark GPU”. Este conceito pode referir-se a hardware que está ocioso devido a restrições de energia ou infraestrutura, ou pode ser usado para descrever recursos de computação de IA implantados, mas subutilizados.
Nos últimos anos, o principal desafio enfrentado pela indústria de inteligência artificial tem sido a oferta restrita de chips avançados. As principais empresas de tecnologia estão competindo pela cota de GPU da Nvidia, e os chips costumam ser escassos. Mas à medida que as empresas fixam antecipadamente os recursos da cadeia de abastecimento, novas restrições começam a afetar as redes elétricas e as infraestruturas energéticas. Para os grandes operadores de centros de dados, o acesso a fontes de alimentação estáveis e adequadas está a tornar-se tão importante como o acesso a chips.
Para garantir que não ficará para trás na futura competição de chips, a Amazon ajustou seu modelo de aquisição. De acordo com os procedimentos anteriores, as empresas costumam receber e pagar formalmente pelos racks dos servidores depois que eles chegam ao data center pronto para operação. Pelo novo mecanismo de “recebimento antecipado de racks”, a Amazon concluirá o processo de recebimento e pagamento mais cedo, mesmo que o equipamento ainda não tenha sido instalado no local final de operação.
Esta abordagem ajuda a garantir antecipadamente recursos de hardware escassos, mas também significa que as empresas precisam de investir muito dinheiro antecipadamente e que estes dispositivos não podem gerar receitas antes de estarem oficialmente online e fornecerem serviços de computação em nuvem aos clientes. Como resultado, a tensão entre enormes despesas de capital e atrasos nos retornos está a intensificar-se.
A Amazon planeja investir aproximadamente US$ 220 bilhões em despesas de capital em IA e infraestrutura de computação em nuvem este ano, excedendo a escala de muitos pares tecnológicos. Ao mesmo tempo, o fluxo de caixa livre da empresa tem estado sob pressão significativa e tornou-se negativo pela primeira vez nos últimos anos. Para a AWS, ocupar antecipadamente os principais recursos de hardware é visto como uma escolha estratégica, mesmo que alguns equipamentos estejam temporariamente impossibilitados de operar.
Os analistas apontaram que o atual foco de desenvolvimento da indústria de IA está mudando. Há dois anos, a indústria se concentrou em quem poderia obter mais GPUs NVIDIA. Agora, cada vez mais empresas estão a descobrir que o verdadeiro recurso escasso pode não ser os chips em si, mas a energia e as redes de energia necessárias para apoiar o funcionamento desses chips.
À medida que a escala dos modelos de IA continua a se expandir e a demanda por poder de computação continua a crescer, o fornecimento de energia, a capacidade de transmissão e os ciclos de construção de data centers estão gradualmente se tornando fatores-chave que afetam o desenvolvimento da indústria. O grande número de GPUs temporariamente ociosas também reflete a realidade lateral: a competição de inteligência artificial não é apenas uma batalha por chips, mas também uma batalha por energia e infraestrutura.
Comentários