A NVIDIA lançou recentemente oficialmente o CUDA 13.1, que o oficial posicionou como “a maior e mais abrangente atualização desde o nascimento da plataforma CUDA em 2006”.O principal destaque desta atualização é a introdução do revolucionário modelo de programação CUDA Tile, marcando a entrada do paradigma de programação GPU em um novo estágio de abstração superior.

A programação tradicional da GPU é baseada no modo SIMT (Single Instruction Multi-Threading), e os desenvolvedores precisam prestar atenção aos detalhes de baixo nível, como threads, memória e sincronização.

CUDA Tile é um modelo baseado em bloco (bloco de dados, bloco de dados). Os desenvolvedores agora podem se concentrar na organização dos dados em blocos e na realização de cálculos nesses blocos de dados.O complexo trabalho subjacente de agendamento de threads, layout de memória e mapeamento de recursos de hardware será tratado automaticamente pelo compilador e pelo tempo de execução.

Para oferecer suporte à programação Tile, CUDA 13.1 introduziu o conjunto de instruções virtuais (Tile IR) e lançou a ferramenta cuTile para permitir que os desenvolvedores usem Python para escrever Kernel de GPU baseado em Tile.

Isso reduz bastante o limite para programação de GPU, permitindo que cientistas de dados e pesquisadores que não estão familiarizados com CUDA C/C++ tradicional ou modelos SIMT subjacentes escrevam código acelerado por GPU.

A programação lado a lado não substitui o SIMT, mas fornece um caminho alternativo coexistente. Os desenvolvedores podem escolher com flexibilidade o modelo de programação mais apropriado de acordo com cenários de aplicação específicos.

A importância do CUDA 13.1 reside não apenas na adição de novos recursos ou na otimização do desempenho, mas também no estabelecimento das bases para a construção de uma nova geração de bibliotecas e estruturas de computação GPU de alto nível e entre arquiteturas. Ao introduzir o Tile IR e a abstração de alto nível, a NVIDIA adicionou uma camada intermediária mais espessa entre hardware e software.

No passado, os concorrentes (como ROCm da AMD e OneAPI da Intel) dependiam principalmente da camada de compatibilidade para tradução de código CUDA, mas para o novo modelo de maior abstração do CUDA Tile, a simples tradução de código não é mais suficiente.

Os concorrentes devem construir compiladores igualmente inteligentes para lidar com o Tile IR, o que sem dúvida aumenta a dificuldade de alinhamento da tecnologia e aumenta objetivamente ainda mais a aderência e o aprisionamento do usuário do ecossistema CUDA.