A arquitetura AMD Zen5 Ryzen AI Max+ 395 é a primeira plataforma que pode executar localmente um grande modelo de IA de 70 bilhões de parâmetros. Claro, ele precisa ser emparelhado com 128 GB de memória unificada. Agora,A AMD lançou uma grande atualização, permitindo que modelos grandes com 128 bilhões de parâmetros sejam executados localmente!
Claro, apenas Ryzen AI Max+ 395 pode fazer isso, e ainda é necessárioEmparelhado com memória unificada de 128 GB, e alocar 96 GB como memória de vídeo, e deve estar emVulkanllama.cpambiente p.
O driver precisa ser compatível com a versão 25.10 RC 24, que ainda está em fase de testes, e se tornará a versão oficial 25.8.1 no início do próximo mês.
Isso faz do Ryzen AI Max+ 395 a primeira plataforma que pode executar localmente o modelo grande Meta Llama 4 Sout com 109 bilhões de parâmetros, com volume de até 66 GB, máximo de 17 bilhões de parâmetros ativos e suporte para Vision e MCP.
Isto se deve ao modelo que utilizaModo Especialista Misto (MoE), apenas uma parte do modelo é ativada por vez para manter o desempenho disponível. O teste real do Ryzen AI Max+ 395 pode atingir 15 tokens por segundo.
Ao mesmo tempo, Ryzen AI Max+ 395 também pode rodarMistral Large com volume de 68 GB e 123 bilhões de parâmetrose, quanto aos 18 GB, parâmetro de 30 bilhões Qwen3 A3B, 17 GB, parâmetro de 27 bilhões do Google Gemma, naturalmente para não mencionar.
Claro, Ryzen AI Max+ 395 também suporta uma variedade de tamanhos de modelos e formatos de quantização, incluindo GGUF.
Igualmente importante, a atualização Ryzen AI Max+ 395 suporta um tamanho de contexto maior, desde os tradicionais 4.096 Tokens até surpreendentes 256.000 Tokens, tornando possível analisar e resumir documentos e outros dados em maior escala.
No entanto, é importante observar aqui que Flash Attention e Q8 KV Cache devem estar ativados.
Para modelos gerais de não grande escala, o contexto de 32.000 Tokens é suficiente, e Ryzen AI Max+ 395 oferece novas possibilidades.No passado, um contexto de tão grande escala muitas vezes exigia dezenas de milhares ou centenas de milhares de dispositivos para ser implementado.
O preço da mini estação de trabalho AI configurada com Ryzen AI Max+ 395 e 128 GB foi tão baixo quanto cerca de 13.000 yuans, o que pode ser considerado bastante econômico.
