Hoje, o Alibaba Cloud anunciou que o Alibaba Cloud PAIModelGallery oferece suporte à implantação com um clique de DeepSeek-V3 e DeepSeek-R1 na nuvem.Os usuários podem realizar todo o processo, desde o treinamento do modelo até a implantação e a inferência, por meio da plataforma Alibaba Cloud, sem escrever código, o que simplifica muito o processo de desenvolvimento do modelo de IA.
De acordo com a introdução oficial, o processo de implantação do modelo DeepSeek com um clique é muito simples e requer apenas as 3 etapas a seguir:
Faça login no console PAI, selecione a lista de espaços de trabalho na barra de navegação esquerda, clique no nome do espaço de trabalho especificado para entrar no espaço de trabalho correspondente e, por fim, selecione Início rápido > Galeria de modelos na barra de navegação esquerda.
Entre na página de detalhes do modelo DeepSeek. Na lista de modelos na página ModelGallery, clique para localizar e clicar no cartão de modelo que precisa ser implantado, como o modelo "DeepSeek-R1-Distill-Qwen-7B", para entrar na página de detalhes do modelo.
Implante o serviço de geração de modelo DeepSeek com um clique. Clique em Implantar no canto superior direito: Atualmente o DeepSeek-R1 suporta implantação acelerada de vLLM; DeepSeek-V3 suporta implantação acelerada de vLLM e implantação de aplicativos da Web; O modelo pequeno de destilação DeepSeek-R1 suporta implantação acelerada BladeLLM e vLLM.
Após a implantação bem-sucedida, você pode clicar em "Exibir informações da chamada" na página de serviço para obter o endpoint e o token da chamada. Se quiser saber como chamar o serviço, você pode clicar no link do modelo pré-treinado e retornar à página de introdução do modelo para visualizar a descrição do método de chamada.
No entanto, deve-se observar que o modelo implantado neste tutorial é o DeepSeek-R1-Distill-Qwen-7B destilado. Com base nas capacidades de inferência do DeepSeek-R1, o modo de inferência é migrado para o modelo Qwen menor por meio da tecnologia de destilação.
Ao mesmo tempo, Alibaba Cloud PAIModelGallery também fornece implantação com um clique dos modelos originais DeepSeek-R1 e DeepSeek-V3.