Em 12 de novembro, horário de Pequim, o Financial Times informou que a Amazon está se preparando para lançar seu mais recente chip de IA, já que a gigante da tecnologia espera colher retornos de seus bilhões de dólares em investimentos em semicondutores e reduzir sua dependência da líder de mercado Nvidia. Atualmente, a Amazon planeja gastar a maior parte de seus gastos totais de cerca de US$ 75 bilhões em 2024 em infraestrutura tecnológica.
O projeto de chip Amazon AI foi lançado
Os executivos da divisão de computação em nuvem da Amazon estão gastando pesadamente para comprar e personalizar chips na esperança de melhorar a eficiência de suas dezenas de data centers e, em última análise, reduzir custos para eles próprios e para os clientes da Amazon Web Services. O projeto é liderado pela startup de chips Annapurna Labs, que foi adquirida pela Amazon em 2015 por US$ 350 milhões. Espera-se que os últimos resultados do Annapurna sejam apresentados quando o “Trainium 2” da Amazon estiver à venda no próximo mês.
Trainium2 faz parte da família de chips de IA da Amazon (treinando os maiores modelos). O Trainium2 já está sendo testado pela Anthropic, Deutsche Telekom e outras empresas. Amazon e Annapurna pretendem competir com a Nvidia Dave Brown, vice-presidente de computação e serviços de rede da Amazon, disse que espera se tornar o melhor lugar para administrar a Nvidia. Mas, entretanto, seria benéfico desenvolver chips alternativos à Nvidia.
Amazon investe pesadamente no apoio à construção de infraestrutura de IA
Gadi Hutt, diretor sênior de desenvolvimento de negócios, segurando um chip Tranium
“Quando se trata de aprendizado de máquina e inteligência artificial, a computação em nuvem tende a ser muito mais cara”, disse Brown. "Quando você economiza 40% de US$ 1.000, isso realmente não afeta sua escolha. Mas quando você economiza 40% de dezenas de milhões de dólares, isso afeta."
A Amazon espera atualmente que as despesas de capital em 2024 sejam de aproximadamente 75 mil milhões de dólares, a maior parte dos quais será gasta em infraestrutura tecnológica. Na última teleconferência de resultados da empresa, o CEO Andy Jassy disse esperar que a empresa invista mais dinheiro em 2025. Os maiores provedores de nuvem, incluindo Microsoft e Google, estão investindo pesadamente em IA, e o ímpeto mostra poucos sinais de diminuir. Amazon, Microsoft e Meta são grandes clientes da Nvidia, mas também estão projetando seus próprios chips de data center para obter uma participação na onda de IA. “Todos, desde OpenAI até Apple, estão procurando construir seus próprios chips”, observou Newman do FuturumGroup, enquanto buscam “custos de produção mais baixos, margens mais altas, maior usabilidade e mais controle”.
A infraestrutura de IA da Amazon exige a construção de tudo desde o início, desde o silício até os racks de servidores em que estão instalados, tudo apoiado pelo software e arquitetura proprietários da Amazon. "É difícil fazer isso na escala que fazemos. Poucas empresas conseguem fazer isso", disse Sinno, diretor de engenharia do Annapurna.
Projeto de chip de IA da Amazon
Depois de começar a construir um chip de segurança chamado Nitro para Amazon, Annapurna desenvolveu várias gerações de processadores centrais Graviton baseados em Arm que oferecem alternativas de menor consumo de energia aos servidores tradicionais oferecidos pela Intel ou Amazon. O analista da TechInsights, GDan Hutcheson, disse: “A maior vantagem para a Amazon é que seus chips consomem menos energia e o data center pode ser mais eficiente em termos energéticos, reduzindo assim os custos”. Ele disse que se a unidade de processamento gráfico da Nvidia for comparada a uma poderosa ferramenta de uso geral (no caso de carros, como uma perua ou perua), a Amazon poderá otimizar seus chips para tarefas e serviços específicos, assim como um carro compacto ou hatchback.
Quanto ao desempenho bruto dos chips da Amazon versus os da Nvidia, a Amazon evita comparações diretas e não submete seus chips a benchmarks de desempenho independentes.
Patrick Moorhead, consultor de chips da Chip Consulting, disse: “As pessoas apreciam toda a inovação que a Nvidia traz, mas ninguém quer ver a Nvidia ocupar 90% da participação de mercado”, acrescentou. "Isso não vai durar muito."