Resumo:
Um episódio dramático ocorreu recentemente no círculo de IA: um tweet de anúncio oficial do DeepSeek, antes que todos tivessem tempo de estudar cuidadosamente os detalhes técnicos, primeiro saiu do círculo por causa do texto da capa.
Alguns internautas descobriram que a capa do artigo de conta pública "DeepSeek Open Source Inference Framework: Towards a Truly Inclusive Future" digitou erroneamente "Putt & Whitney" como "HP", que por acaso colidiu com a conhecida marca de computadores Hewlett-Packard (HP).
Muitos internautas brincaram que o DeepSeek estava enviando involuntariamente uma onda de anúncios de tráfego para a HP de graça; alguns também brincaram que os executivos da HP aproveitariam a oportunidade para discutir cooperação.
Este erro interessante foi rapidamente descoberto pelo funcionário. A imagem da capa foi modificada com urgência e o texto foi restaurado para “Rumo a um futuro verdadeiramente inclusivo”. O pequeno oolong terminou com sucesso.
Brincadeiras à parte, o peso deste artigo em si é o verdadeiro foco deste incidente. DeepSeek lançou recentemente oficialmente um tweet anunciando que sua estrutura interna de inferência DeepInfer é totalmente de código aberto.
Os desenvolvedores familiarizados com o ritmo do DeepSeek sabem que esta equipe continuou a aumentar seus esforços no caminho do código aberto e já lançou vários modelos grandes, cadeias de ferramentas de compilação TileLang e bibliotecas de operadores de inferência de suporte.
Desta vez, eles divulgaram diretamente para o mundo exterior o mecanismo de inferência subjacente que suporta serviços on-line em grande escala e apresentaram um plano de implantação completo polido no ambiente de produção, mostrando sua sinceridade.
A citação oficial "faça para o bem e faça para todos, faça pela habilidade e faça para todos" para esclarecer a intenção original.
Simplificando, se um modelo grande for implementado, não apenas parâmetros fortes do modelo são suficientes, mas a estrutura de inferência é a chave para determinar o rendimento, a latência e as contas de energia computacional.Muitas equipes e empresas de pequeno e médio porte obtiveram grandes modelos de código aberto, mas estão presas no processo de implantação: altas solicitações simultâneas não podem ser tratadas, os atrasos variam muito, a sobrecarga de poder de computação permanece alta e o custo da implantação privatizada e do lançamento da nuvem pública desencorajou muitos participantes.
O DeepInfer é de código aberto e visa esse ponto problemático.
A DeepSeek espera compartilhar a experiência de otimização de inferência em grande escala acumulada na prática interna com toda a comunidade para ajudar desenvolvedores e empresas a otimizar indicadores de serviços on-line, aumentar o rendimento, reduzir atrasos de resposta e construir sem problemas serviços de IA em nuvem pública ou privatizada.
Depois que a otimização for implementada, a sobrecarga de poder de computação e o consumo de energia diminuirão simultaneamente, e o limite para o uso de serviços de IA será reduzido, permitindo que mais indústrias e mais usuários usem serviços de modelo grande com desempenho de custo mais alto e, em última análise, atinjam a meta de "IA inclusiva".
Comentários