O grande modelo de código aberto da empresa de IA Zero One Wanxian de Kai-Fu Lee foi acusado de usar completamente a arquitetura LLaMA e apenas modificou os nomes de dois tensores. A este respeito, Lingyiwu disse: GPT é uma arquitetura madura reconhecida na indústria, Llama fez um resumo sobre GPT.
O desenho estrutural do grande modelo de P&D de Zero Mil Coisas baseia-se na estrutura madura da GPT e baseia-se nos resultados públicos de alto nível da indústria. Como o desenvolvimento da tecnologia de modelos de grande porte ainda está em seus estágios iniciais, uma estrutura que seja consistente com a corrente dominante da indústria é mais propícia à adaptação geral e às futuras iterações. Ao mesmo tempo, a equipe 01Wanyuan trabalhou muito na compreensão do modelo e no treinamento, e também continua a explorar avanços essenciais no nível da estrutura do modelo.
Artigos relacionados: