A Microsoft recentemente atualizou discretamente o documento afirmando que, desde que o dispositivo esteja equipado com uma placa gráfica discreta que atenda às condições, mesmo que não seja um Copilot+ PC, ele pode executar a API do modelo de idioma local no Windows 11. Isso é visto como um passo importante para enfraquecer a vantagem exclusiva do Copilot+ PC. De acordo com as instruções mais recentes, o hardware elegível inclui NVIDIA GeForce RTX série 30 e modelos mais recentes e requer 6 GB de memória de vídeo ou superior.
Isso significa que alguns PCs de alto desempenho que originalmente não atendem ao padrão Copilot+ PC serão capazes de obter recursos locais de IA em nível de sistema por meio de GPUs, em vez de depender inteiramente de novos modelos com NPUs de alto poder computacional.
O Copilot+ PC foi lançado oficialmente em 18 de junho de 2024. A Microsoft o empacotou como a “única maneira” de executar IA local na época e o usou como um importante ponto de venda para promover atualizações de PC. De acordo com a definição original da Microsoft, para um dispositivo ser rotulado como Copilot+ PC, ele precisa estar equipado com pelo menos 16 GB de memória, uma unidade de estado sólido e uma NPU (unidade de processamento neural) que possa fornecer pelo menos 40 TOPS de poder computacional. A NPU foi projetada para executar modelos de IA com eficiência, enfatizando a eficiência energética, enquanto a GPU é boa em computação paralela em grande escala e possui maior poder de computação bruto. No entanto, sob a estratégia anterior, a Microsoft limitou funções locais de IA, como Windows Recall e "Click to Do", para PCs Copilot+ equipados com NPUs, resultando em muitos computadores GPU com desempenho de hardware igualmente poderoso sendo incapazes de usar esses recursos integrados de IA.
Esta mudança vem de uma nota de atualização da Microsoft no GitHub. A Microsoft confirmou no documento que a API do modelo de linguagem já pode ser executada em GPU em PCs não Copilot+, desde que duas condições sejam atendidas: primeiro, você tenha uma placa gráfica da série RTX 30 ou mais recente e, segundo, a placa gráfica tenha pelo menos 6 GB de memória de vídeo. “A API do modelo de linguagem agora é executada em PCs não Copilot+ com GPUs suportadas, trazendo recursos de modelo de linguagem nativos para uma gama mais ampla de dispositivos Windows 11”, disse a Microsoft na nota. O hardware compatível atualmente inclui a série NVIDIA GeForce RTX 30 e linhas de produtos posteriores e requer 6 GB de memória de vídeo ou superior. Em termos práticos, esta mudança amplia o escopo dos modelos de idioma local dos novos PCs Copilot+ para o grande número de dispositivos Windows 11 de alto desempenho já em uso.
Do ponto de vista do desenvolvedor, a API do modelo de linguagem fornece um conjunto de interfaces Windows.AI.Text que podem ser chamadas localmente, suportadas por um pequeno modelo de linguagem chamado "Phi Silica". O modelo já apareceu em produtos como o Microsoft Edge, para recursos como “Reescrever usando IA”. De acordo com as configurações da Microsoft, os PCs comuns com Windows atualmente não pré-instalam modelos locais de IA por padrão. Somente usuários que adquirirem PCs Copilot+ terão conteúdo relevante predefinido no sistema. De acordo com o novo esquema, se um usuário executar um aplicativo que suporte a API do modelo de idioma local, o sistema poderá baixar o modelo Phi Silica por meio do Windows Update e executá-lo localmente em uma GPU qualificada.
Com base nos recursos de interface anunciados atualmente, as funções locais de IA que os desenvolvedores podem chamar em seus aplicativos incluem: formatação de texto inteligente usando a interface Windows.AI.Text, resumo de texto (TextSummarizer), reescrita (TextRewriter), texto para tabela (TextToTableConverter) e geração de palavras de prompt geral, etc. vantagens na proteção da privacidade do que Copilot ou ChatGPT que dependem de modelos de nuvem.
Deve-se notar que a Microsoft atualmente liberaliza apenas o escopo da aplicação GPU no nível da API do modelo de linguagem. A julgar pelas informações disponíveis, algumas funções de IA em aplicativos como Windows Recall, "Click to Do" e MS Paint ainda estão disponíveis apenas para PCs Copilot+ com NPUs integrados. Por outras palavras, este ajuste tem mais a ver com “desbloquear” uma gama mais ampla de plataformas de hardware para capacidades locais de IA, tais como texto e avisos, em vez de remover completamente o limite para NPUs no ecossistema Copilot+. No entanto, à medida que as capacidades locais de IA se estendem gradualmente aos tradicionais PCs GPU de alto desempenho, o ponto de venda do Copilot+ PC como "o único que pode executar IA localmente" foi significativamente enfraquecido, o que também levou a especulações externas sobre se a Microsoft irá relaxar ainda mais ou mesmo cancelar os requisitos obrigatórios para NPUs no futuro.