Resumo:
A Qualcomm anunciou recentemente mais detalhes sobre as capacidades de processamento de IA do Snapdragon 8 Elite Gen 6 Pro, sendo o mais notável a atualização do novo Hexagon NPU. Diferente de buscar puramente o crescimento do poder de computação de IA no passado, a Qualcomm desta vez presta mais atenção à eficiência da operação do modelo de IA, ao acesso à memória e ao controle do consumo de energia, na esperança de permitir que a próxima geração de telefones celulares emblemáticos execute modelos de IA generativos em larga escala e agentes de IA localmente.
A Qualcomm disse que à medida que a IA generativa gradualmente se torna um recurso importante dos smartphones, os próprios modelos de IA continuam a se tornar maiores e mais complexos. Para dispositivos móveis, o verdadeiro gargalo não é apenas o poder computacional, mas como processar esses modelos com eficiência sob consumo de energia e largura de banda de memória limitados. Portanto, o NPU do Snapdragon 8 Elite Gen 6 Pro foi redesenhado em muitos aspectos.
Uma das atualizações importantes é o novo Element Accelerator. Esta unidade dedicada de aceleração de hardware é otimizada para operações específicas em computação de IA, o que pode melhorar a eficiência da NPU ao executar cargas de trabalho relacionadas. Comparado com o simples aumento do poder de computação máximo da NPU, este design especializado permite que o chip conclua tarefas específicas de IA com menos recursos, reduzindo assim o consumo de energia no processo de computação.
A nova geração de NPU Hexagon também ganha maior memória compartilhada. A Qualcomm disse que sua capacidade de grande memória compartilhada aumentou 50% em comparação com a geração anterior. Esta parte da memória compartilhada de alta velocidade permite que a NPU salve de forma mais conveniente os dados necessários durante a execução do modelo de IA, reduzindo assim a necessidade de acesso frequente à memória do sistema.
Essa mudança é especialmente importante para modelos de linguagem grandes. Ao executar a IA generativa, os modelos precisam processar constantemente grandes quantidades de dados contextuais, alguns dos quais devem ser persistidos durante a inferência. Se esses dados forem frequentemente transferidos entre a NPU e a memória do sistema, isso aumentará a latência e consumirá mais energia. Ao adicionar memória compartilhada de alta velocidade que pode ser usada diretamente dentro do NPU, a Qualcomm espera reduzir ao máximo esse manuseio de dados.
Um dos objetos que se beneficiou significativamente é o KV Cache. À medida que os usuários têm conversas cada vez mais longas com assistentes de IA, os modelos precisam salvar cada vez mais informações contextuais. O tamanho do cache KV também aumentará de acordo e muitas vezes se torna uma carga importante de memória ao executar modelos grandes localmente. Uma memória partilhada maior permite que dados mais relevantes fiquem mais próximos da unidade de computação, melhorando assim a eficiência da inferência da IA.
A Qualcomm acredita que esse recurso é particularmente importante para agentes de IA. Em comparação com a IA tradicional de perguntas e respostas, os agentes de IA precisam completar várias etapas continuamente, como entender as necessidades do usuário, formular planos de execução, chamar diferentes ferramentas, analisar os resultados retornados e depois prosseguir para a próxima etapa. Ao longo do processo, o estado e o contexto do modelo precisam ser salvos continuamente, portanto, a redução do acesso à memória pode ajudar a reduzir a latência e permitir que tarefas complexas de IA sejam executadas com mais facilidade.
As melhorias da Qualcomm no NPU também significam que, quando os telefones celulares executarem IA no futuro, eles não precisarão necessariamente depender simplesmente do aumento da RAM do sistema para resolver o problema. À medida que os modelos locais de IA se tornam cada vez maiores, os fabricantes de telefones celulares continuaram a aumentar a capacidade de memória dos principais produtos nos últimos anos. No entanto, aumentar a RAM não só aumentará os custos de hardware, mas também aumentará o consumo de energia e a pressão no fornecimento de memória. A Qualcomm está tentando aliviar esse problema no nível arquitetônico, colocando mais dados na memória compartilhada de alta velocidade dentro do chip.
Além do NPU, a CPU e a GPU do Snapdragon 8 Elite Gen 6 Pro também foram significativamente atualizadas. A Qualcomm revelou anteriormente que a plataforma carro-chefe da nova geração terá uma frequência de CPU de até 5 GHz. Se esta especificação for finalmente implementada de acordo com as informações anunciadas atualmente, ela se tornará um nó muito simbólico nos processadores móveis, pois a frequência mais alta das CPUs dos smartphones entrará oficialmente na era dos 5GHz.
A Qualcomm também introduziu a tecnologia FlexCache para CPUs. A ideia central também é reduzir a dependência do processador da memória externa do sistema e flexibilizar o uso do cache interno do chip para que a CPU possa obter dados com mais eficiência. Para processadores móveis modernos, a eficiência do acesso a dados entre cache e memória tornou-se cada vez mais importante, de modo que este design pode melhorar até certo ponto o equilíbrio entre desempenho e eficiência energética.
As GPUs também passaram por mudanças arquitetônicas significativas. A Qualcomm descreve a nova geração da GPU Adreno como uma atualização arquitetônica muito importante que não apenas melhora o desempenho gráfico tradicional, mas também aprimora ainda mais a capacidade da GPU de executar tarefas de IA.
Uma das mudanças importantes é a adição dos Adreno Matrix Cores, que são núcleos dedicados a cálculos matriciais. As operações de matriz são um tipo importante de cálculo em modelos modernos de IA, portanto, núcleos de matriz dedicados podem ajudar as GPUs a realizar trabalhos relacionados à IA com mais eficiência.
Isso significa que as futuras plataformas principais do Snapdragon não entregarão todos os cálculos de IA ao NPU. Dependendo das tarefas específicas, CPU, GPU e NPU podem realizar diferentes tipos de trabalho, formando assim um sistema de computação heterogêneo mais óbvio. Para jogos, a GPU pode realizar parte dos cálculos de IA enquanto completa a renderização gráfica tradicional; enquanto para cargas de trabalho como IA generativa, a NPU pode desempenhar um papel mais importante.
A Qualcomm também lançou a tecnologia Adreno Neural Fusion para fortalecer ainda mais a combinação entre IA e renderização gráfica. Esta tecnologia pode usar algoritmos de IA para melhorar os efeitos visuais das telas dos jogos e ajudar a obter efeitos de processamento gráfico mais avançados enquanto controla o consumo de energia.
Este design é particularmente adequado para tecnologias gráficas de IA que se desenvolveram rapidamente nos últimos anos, como super-resolução e geração de quadros. A resolução e a complexidade da imagem dos jogos para celular continuam a aumentar. Se todas as imagens dependerem de métodos tradicionais de renderização nativa, a carga da GPU e o consumo de energia aumentarão rapidamente. Usar a IA para gerar parte das informações da imagem pode alcançar maior qualidade final da imagem com custos de renderização mais baixos.
Do ponto de vista da arquitetura geral, a atualização de IA do Snapdragon 8 Elite Gen 6 Pro não visa simplesmente tornar o NPU mais rápido, mas também tentar redesenhar o método de processamento de dados dentro de todo o SoC. A NPU possui maior memória compartilhada e aceleradores dedicados. A CPU reduz a dependência da memória do sistema por meio do FlexCache, enquanto a GPU adiciona recursos especializados de computação matricial e participa do processamento gráfico por meio da tecnologia de IA.
Essa mudança reflete que os chips móveis estão entrando em uma nova fase. No passado, ao medir o desempenho dos principais SoCs, as pessoas se concentravam principalmente nas pontuações de execução de CPU e GPU, mas agora a carga de trabalho de IA se tornou um fator importante na determinação da experiência real do chip. Para a próxima geração de telefones celulares, o que é realmente importante não é apenas quão alto pode ser o pico de potência de computação do chip, mas também se ele pode executar modelos de IA por um longo período com consumo limitado de energia e se pode controlar efetivamente o movimento de dados entre diferentes unidades de computação e memórias.
A ênfase especial da Qualcomm na memória compartilhada e na redução do acesso à memória também mostra que a competição de chips na era da IA está gradualmente mudando de uma simples "guerra de poder de computação" para uma "guerra de eficiência de transferência de dados". Para grandes modelos de IA, o cálculo em si é importante, mas a forma de enviar os parâmetros do modelo, o contexto e os resultados intermediários para a unidade de computação correta em tempo hábil também afetará diretamente o desempenho final e o consumo de energia.
Portanto, o que é realmente digno de nota sobre o Snapdragon 8 Elite Gen 6 Pro pode não ser o quanto o desempenho individual da IA foi melhorado, mas o fato de a Qualcomm estar tentando permitir que os telefones celulares lidem localmente com tarefas de IA cada vez mais complexas por meio de uma colaboração mais próxima entre NPU, CPU, GPU, cache e memória compartilhada.
À medida que assistentes de IA, agentes de IA, aplicativos generativos e funções de jogos de IA gradualmente se tornam uma parte importante dos principais telefones celulares, essa ideia arquitetônica também pode se tornar uma direção importante para o desenvolvimento de SoCs móveis no futuro. Em comparação com o aumento contínuo da RAM do sistema, espera-se que digerir os modelos de IA em constante expansão por meio de processamento de dados e mecanismos de cache mais eficientes dentro do chip atinja um equilíbrio mais razoável entre desempenho, consumo de energia e custo.
A capacidade do Snapdragon 8 Elite Gen 6 Pro de atingir essas metas técnicas precisará ser verificada por meio de testes completos após o lançamento do dispositivo. No entanto, a julgar pelas informações divulgadas até agora, o foco da atualização da principal plataforma da Qualcomm desta geração tem sido muito claro: não apenas para tornar os cálculos de IA mais rápidos, mas também para tornar os cálculos de IA mais eficientes e para minimizar os custos de consumo de memória e energia dos telefones celulares para executar a IA local.
Comentários