Resumo:
O mais recente chip A20 Pro da Apple está demonstrando seu verdadeiro potencial no campo da inteligência artificial em dispositivos. Um teste real mais recente mostra que o iPhone 18 Pro equipado com A20 Pro pode executar localmente um grande modelo de IA com 27 bilhões de parâmetros, e sua velocidade de geração é o dobro da geração anterior do iPhone 17 Pro, desencadeando uma nova rodada de atenção do mundo exterior sobre as capacidades locais de IA dos telefones celulares.
Este teste foi conduzido pelo desenvolvedor Adrien Grondin. Na demonstração, o iPhone 18 Pro executou um modelo de 27 bilhões de parâmetros chamado Bonsai 27B. Sem depender de servidores em nuvem, o dispositivo conclui tarefas de inferência diretamente localmente e exibe uma velocidade de resposta que excede em muito a da geração anterior de produtos.
O principal fator que impulsiona esse salto de desempenho vem da nova arquitetura de hardware de inteligência artificial do A20 Pro. Ao contrário dos chips anteriores da Apple, que eram equipados apenas com um único conjunto de mecanismos de rede neural de 16 núcleos, o A20 Pro adota pela primeira vez um design de mecanismo de rede neural duplo de 16 núcleos, com um total de 32 núcleos de processamento de rede neural. Esta também é a primeira vez na história dos chips desenvolvidos pela Apple que adotam uma arquitetura de mecanismo de rede neural dupla.
Além da atualização da unidade de rede neural, o sistema de memória também é uma parte importante da melhoria do desempenho. Tanto o iPhone 18 Pro quanto o iPhone 18 Pro Max estão equipados com memória LPDDR5X de 12 GB e 96 bits de largura, que possui maior velocidade de transmissão e maior capacidade de transferência de dados do que os produtos da geração anterior.
Os resultados dos testes mostram que, ao executar modelos de linguagem em grande escala, o novo mecanismo de rede neural e o sistema de memória mais rápido formam uma sinergia, dando ao A20 Pro uma clara vantagem na velocidade de geração de tokens. Para aplicações de IA que dependem de raciocínio local, isso significa tempos de resposta mais rápidos e uma experiência interativa mais tranquila.
No entanto, esse avanço não significa que os smartphones já possam rodar todos os modelos grandes sem limitações.
Os pesquisadores apontaram que, embora o A20 Pro tenha empurrado com sucesso o iPhone para a era do modelo de 27 bilhões de parâmetros, a IA local ainda é limitada pela capacidade de memória. Por exemplo, mesmo depois de usar a compactação de quantização de 2 bits, o modelo Bonsai 2 recém-lançado ainda é muito grande e não pode ser completamente carregado no espaço de memória local do iPhone 18 Pro, resultando em degradação do desempenho.
Isso também reflete um problema prático no desenvolvimento atual da IA para telefones móveis: o poder da computação está crescendo rapidamente, mas a contradição entre a capacidade de memória e o tamanho do modelo ainda existe. Mesmo que o desempenho do chip continue a melhorar, se o modelo em si não puder ser completamente carregado na memória do dispositivo, isso ainda afetará a eficiência operacional real.
Em contraste, o Bonsai de primeira geração é um modelo de quantização de 1 bit e tem requisitos de recursos significativamente mais baixos. Os desenvolvedores afirmam que esse tipo de modelo pode rodar até mesmo em dispositivos com apenas 4GB de memória, podendo atingir desempenho superior em plataformas de 8GB ou 12GB de memória.
Do ponto de vista das especificações de hardware, o A20 Pro não está apenas equipado com mecanismos de rede neural dupla, mas também possui uma largura de banda de memória unificada de até 115,2 GB/s. Alguns testes mostram que em cargas de trabalho otimizadas para redes neurais, a capacidade de pico de rendimento do mecanismo de rede neural excede até mesmo a da GPU de 7 núcleos dentro do chip.
Esse resultado reflete que a Apple está acelerando sua estratégia de "IA do lado do dispositivo". Ao contrário de depender de data centers em nuvem, a IA local pode trazer tempos de resposta mais rápidos, melhor proteção de privacidade e disponibilidade offline, que são as direções de desenvolvimento que a Apple tem enfatizado nos últimos anos.
À medida que a inteligência artificial generativa se torna gradualmente uma característica importante dos smartphones, a concorrência entre os fabricantes de telemóveis também está a mudar do desempenho de imagem e dos benchmarks do processador para as capacidades locais de raciocínio da IA. O desempenho do A20 Pro significa que os smartphones começaram a ter a capacidade de rodar bilhões ou até dezenas de bilhões de modelos de parâmetros.
No entanto, à medida que os tamanhos dos modelos continuam a crescer, a capacidade de memória ainda pode se tornar um importante fator limitante para o desenvolvimento futuro. Os analistas acreditam que se a Apple melhorar ainda mais a configuração de memória dos iPhones no futuro, espera-se que a capacidade do dispositivo de executar modelos de IA em larga escala continue a melhorar, e o papel dos telefones celulares como plataformas independentes de computação de IA se tornará cada vez mais importante.
Comentários