De acordo com um memorando interno obtido pela revista “Information”, a Meta Platforms está cada vez mais otimista em relação ao primeiro grande modelo central que sua recém-formada equipe de IA está prestes a lançar. O memorando, datado de 20 de janeiro, foi divulgado por Megan Fu, gerente de produto do Meta Superintelligence Labs, que afirma claramente que o modelo de linguagem grande da próxima geração Avocado completou o pré-treinamento e é “o modelo básico pré-treinado mais poderoso do Meta até o momento”. O pré-treinamento é o estágio inicial do desenvolvimento do modelo de IA. O modelo precisa ser exposto a dados massivos e aprender conhecimentos gerais, padrões e relacionamentos.
À esquerda estão Alexander Wang e Mark Zuckerberg
O memorando afirma que o desempenho do Avocado excede o melhor modelo básico de código aberto atual. (O modelo básico refere-se a um grande modelo de linguagem que só completou o pré-treinamento e ainda não foi otimizado através do estágio de "pós-treinamento"; o estágio de pós-treinamento usa técnicas como aprendizagem por reforço de feedback humano para ajustar o modelo para tarefas específicas.) Embora o Avocado ainda não tenha concluído o pós-treinamento, sua reserva de conhecimento, percepção visual e capacidades multilíngues estão no mesmo nível dos principais modelos pós-treinamento.
Antes do Avocado ser oficialmente lançado ao público, ainda não está claro se a avaliação interna otimista da Meta sobre o progresso de seu modelo de IA pode resistir à inspeção externa. Mas dada a experiência difícil da Meta com IA no ano passado, até mesmo a promoção excessiva desse progresso internamente seria arriscado para a empresa.
Em 2025, o desempenho do modelo de linguagem grande da geração anterior do Meta, Llama 4, não atendeu às expectativas, obrigando a empresa a adiar seu lançamento. A Meta finalmente lançou duas versões do Llama 4 - Maverick (Ranger) e Scout (Scout), mas alguns desenvolvedores ficaram desapontados com seu desempenho real.
Esses contratempos levaram diretamente a uma reestruturação em grande escala do negócio geral de IA da Meta. A reorganização inclui: Meta adquiriu a Scale AI por US$ 14,3 bilhões em junho do ano passado. Alexandr Wang, CEO da startup, posteriormente juntou-se à Meta e foi responsável por liderar a nova organização abrangente de IA - Meta Super Intelligence Laboratory. Desde então, a Meta investiu uma quantia recorde de dinheiro no negócio de IA: a empresa previu recentemente que as despesas de capital em 2026, incluindo o custo do poder de computação da IA, aumentarão aproximadamente 73% em comparação com 2025, atingindo US$ 115 bilhões a US$ 135 bilhões.
O progresso tecnológico da Meta em novos modelos pode ajudar a controlar os custos relacionados. Outro memorando de meados de dezembro do ano passado mostrou que em tarefas relacionadas a texto, a eficiência computacional do Avocado é 10 vezes maior que a do Maverick e mais de 100 vezes maior que a do Behemoth. Behemoth é a versão atrasada e ainda não anunciada do Llama 4 do Meta no ano passado.
A Meta disse que alcançou avanços de eficiência ao adquirir dados de maior qualidade, investir em infraestrutura de modelo e adotar treinamento determinístico, que garante que o modelo produza resultados estáveis sob o mesmo método de treinamento. Esta melhoria de eficiência ajuda a reduzir o consumo de energia e o custo da investigação e desenvolvimento de IA – um factor crucial à medida que a Meta se esforça para alcançar os concorrentes.
O tom positivo do memorando interno da Meta ecoa recentes declarações públicas de executivos. No mês passado, o diretor de tecnologia da Meta, Andrew Bosworth, sugeriu melhorias de eficiência semelhantes em uma conferência de imprensa no Fórum Econômico Mundial em Davos, Suíça, dizendo que o modelo de IA da Meta “teve um desempenho extremamente bom”. Bosworth também disse que desenvolver um modelo utilizável para os consumidores requer muito trabalho pós-treinamento.
Ao mesmo tempo, na teleconferência de resultados da semana passada, o CEO da Meta, Mark Zuckerberg, disse sobre os primeiros grandes modelos planejados para serem lançados pelo Laboratório de Super Inteligência da Meta: "Espero que nosso primeiro lote de modelos tenha um bom desempenho, mas o mais importante, eles demonstrarão nossa rápida trajetória de desenvolvimento. Também espero que este ano continuemos a lançar novos modelos e a avançar constantemente a fronteira tecnológica."