A Amazon está trabalhando duro para defender sua posição de liderança no campo da computação em nuvem. Ao atualizar seus chips de nuvem autodesenvolvidos e lançar a versão do GPT da Amazon, um chatbot de inteligência artificial (IA), ela também está aprofundando sua cooperação com a NVIDIA, lançando novos serviços baseados em chips NVIDIA e desenvolvendo supercomputadores em conjunto com a NVIDIA.

Dave Brown, vice-presidente da AWS, disse que ao focar o design de chips autodesenvolvidos em cargas de trabalho reais que são importantes para os clientes, a AWS pode fornecer-lhes a infraestrutura de nuvem mais avançada. O Graviton 4 lançado desta vez é o chip de quarta geração em cinco anos. Com o aumento do interesse em IA generativa, o chip de IA de segunda geração Trainium 2 ajudará os clientes a treinar seus próprios modelos de aprendizado de máquina com mais rapidez, custos mais baixos e maior eficiência energética.

O desempenho da computação Graviton4 é até 30% superior ao da geração anterior

Na terça-feira, 28 de novembro, horário do leste, o negócio de computação em nuvem da Amazon, AWS, anunciou o lançamento de uma nova geração de chips desenvolvidos pela própria AWS. Entre eles, o desempenho computacional do chip de uso geral Graviton 4 é até 30% superior ao da geração anterior Graviton 3, com um aumento de 50% nos núcleos e um aumento de 75% na largura de banda da memória, proporcionando assim o maior desempenho de custo e utilização de energia no serviço de hospedagem de servidores em nuvem Amazon Amazon Elastic Compute Cloud (EC2).

Graviton4 também melhora a segurança criptografando totalmente todas as interfaces de hardware físico de alta velocidade. A AWS disse que o Graviton 4 será aplicado a instâncias Amazon EC2R8g com memória otimizada, permitindo aos clientes melhorar a execução de bancos de dados de alto desempenho, caches na memória e cargas de trabalho de análise de big data. As instâncias R8g oferecem tamanhos de instância maiores, com até três vezes mais vCPU e três vezes mais memória do que as instâncias R7g da geração anterior.

Computadores rodando Graitons4 estarão disponíveis nos próximos meses. A AWS disse que em aproximadamente cinco anos desde o lançamento do projeto Garviton, mais de 2 milhões de processadores Garviton foram produzidos e os 100 principais usuários do AWSEC2 optaram por usar o Graviton.


Trainium2 é quatro vezes mais rápido no treinamento de modelos de trilhões de parâmetros

Outro novo produto da AWS, o chip AI de nova geração Trainium2 é quatro vezes mais rápido que a geração anterior Trainium1. Será capaz de implantar até 100.000 chips no EC2 UltraCluster, permitindo aos usuários treinar modelos básicos (PM) e modelos de linguagem grande (LLM) com trilhões de parâmetros em um curto período de tempo, enquanto aumenta a utilização de energia em até duas vezes em comparação com a geração anterior.

O Trainium2 será usado em instâncias Amazon EC2Trn2, com 16 chips Trainium incluídos em uma única instância. As instâncias Trn2 foram projetadas para ajudar os clientes a expandir o número de aplicações de chips para até 100.000 chips Trainium2 na próxima geração do EC2 UltraCluster. Eles estão conectados à rede de nível petabit do AWS Elastic Fabric Adapter (EFA) e fornecem capacidade de computação de até 65 exaflops.

A AWS disse que o Trainium2 será usado para oferecer suporte a novos serviços a partir do próximo ano.


DGX Cloud, o primeiro grande cliente da versão atualizada do GraceHopper, usa GH200NVL32, a GPU mais rápida para impulsionar a supercomputação de IA

Além dos chips de desenvolvimento próprio, a AWS também anunciou na terça-feira durante sua conferência anual re:Invent que expandirá a cooperação estratégica com a NVIDIA para fornecer a infraestrutura, software e serviços mais avançados para ajudar os clientes a gerar inovação generativa em IA.

A AWS se tornará o primeiro provedor de serviços em nuvem a usar o novo superchip NVIDIA H200 GraceHopper de vários nós da tecnologia NVLink na nuvem. Em outras palavras, a AWS será o primeiro grande cliente do GraceHopper atualizado.

A plataforma multi-node H200NVL32 da NVIDIA usa 32 chips GraceHopper com tecnologia NVLink e NVSwitch em uma instância. A plataforma será usada em instâncias do Amazon EC2 conectadas à Amazon Network EFA e é alimentada por virtualização avançada (AWS Nitro System) e clusters ultragrandes (Amazon EC2 UltraClusters), permitindo que clientes conjuntos da Amazon e da Nvidia dimensionem a implantação de milhares de chips H200.

NVIDIA e AWS sediarão em conjunto o treinamento de IA da NVIDIA como serviço DGX Cloud na AWS. Será a primeira nuvem DGX a usar o GH200NVL32, fornecendo aos desenvolvedores a maior memória compartilhada em uma única instância. A nuvem DGX da AWS melhorará o treinamento de IA generativa de ponta e grandes modelos de linguagem com mais de 1 trilhão de parâmetros.

A Nvidia e a AWS estão trabalhando juntas em um projeto chamado Ceiba para projetar o supercomputador de IA alimentado por GPU mais rápido do mundo, um sistema em grande escala que usa as interconexões GH200NVL32 e Amazon EFA. É um supercomputador equipado com 16.384 super chips GH200, com poder de processamento de IA de 65exaflops. A NVIDIA irá usá-lo para impulsionar a próxima onda de inovação generativa em IA.


A versão de visualização do robô de cliente corporativo Amazon Q está online para ajudar a desenvolver aplicativos na AWS

Além de chips e serviços em nuvem, a AWS também lançou uma versão prévia de seu próprio chatbot de IA, chamado Amazon Q. É um novo assistente digital alimentado por tecnologia de IA generativa que funciona de acordo com os negócios dos clientes corporativos, ajudando-os a pesquisar informações, escrever código e revisar indicadores de negócios.

Q recebeu algum treinamento na AWS sobre código e documentação que pode ser usado por desenvolvedores na nuvem AWS.

Os desenvolvedores podem usar Q para criar aplicativos na AWS, pesquisar práticas recomendadas, corrigir erros e obter ajuda para escrever novos recursos para o aplicativo. Os usuários podem interagir com Q por meio de perguntas e respostas conversacionais para aprender novos conhecimentos, pesquisar práticas recomendadas e entender como criar aplicativos na AWS sem desviar a atenção do console da AWS.

Q também será adicionado ao software de inteligência empresarial da Amazon, programas para trabalhadores de call center e gerenciamento de logística. A AWS disse que os clientes podem personalizar o Q com base nos dados da empresa ou perfis pessoais.

O recurso de perguntas e respostas conversacionais está atualmente em versão prévia em todas as regiões onde a AWS corporativa está disponível.