Resumo:
DeepSeek lança modelo grande V4.1 Flash-1017. Numa altura em que o mercado geralmente anseia pela atualização de grandes modelos domésticos de IA, DeepSeek é o primeiro a lançar uma nova versão. Esta atualização traz melhorias significativas de desempenho.
Os níveis de desempenho e alterações específicos já foram relatados anteriormente. Você deve notar que desta vez o DeepSeek também publicou uma curva de Pareto, que costuma ser chamada de linha de morte da IA. V4.1 Flash-1017 está em um nível divino desta vez. O custo por tarefa é apenas entre 1/50-1/100 de modelos grandes como Fable e Astra, e a relação preço/desempenho é pelo menos quarenta ou cinquenta vezes maior.
Como o DeepSeek alcançou tal linha de morte? Todos sabem que possuem fortes capacidades de otimização de IA e podem fazer o melhor para reduzir custos. A imagem a seguir divulgada por vllm_project pode mostrar claramente o quão forte o DeepSeek é na otimização do hardware de IA.
Esta imagem compara o teste de benchmark SemiAnalysis AgentX. Nas plataformas GB300 NVL72 e Dynamo vLLM, o Flash V4.1 executou uma pontuação de 1,3B de token por 1 dólar americano, e a velocidade de interação do P90 excedeu 100 tok/s/usuário.
1 dólar americano equivale a 1,3 bilhão de tokens, então 1 milhão de token custa apenas US$ 0,00077, o que é muito mais barato que o preço de entrada do Flash V4.1 de US$ 0,15.
É claro que estes dois preços não podem ser convertidos de forma tão simples. O custo TCO de 1 USD e 1,3 bilhão de Tokens está no lado do poder computacional, e o preço da API deve levar em conta situações mais complexas. No entanto, o custo ultrabaixo do DeepSeek dá-lhes uma vantagem incomparável neste aspecto.
Como o DeepSeek V4.1 Flash tem uma vantagem de custo inacreditável, as principais plataformas ousam oferecer tarifas ultrabaixas. O uso do pacote de 10 dólares do OpenCode e CommandCode atingiu recentemente 80-120 dólares. OpenCode foi gratuito e aberto nos últimos dois dias. Agora, o uso do Flash V4.1 na plataforma de roteamento agregado está no nível de 100 bilhões de Tokens, e uma empresa pode igualar o uso de seis ou sete amigos.
Deixe a IA comparar os custos de TCO de vários grandes modelos de código aberto. A produção de outros modelos grandes com um trilhão de parâmetros é no máximo 1/10 do Flash V4.1. Se for um modelo grande com 1,5 a 3 trilhões de parâmetros, a diferença de custo pode chegar a mais de 40 a 50 vezes, o que é completamente incomparável.
Também deve ser observado que o custo do TCO ainda é o da V4.1 Flash-0910, e não da versão 1017 lançada hoje. Embora o preço da API deste último não tenha mudado, ele otimizou bastante a eficiência do Token e reduziu o consumo do Token. O grau varia em diferentes tarefas. Em termos somatossensoriais, o consumo foi reduzido em pelo menos metade, o que significa que o custo do TCO pode ser novamente reduzido bastante.
Comentários