Meta libera os pesos do Muse Spark Open, com 816 bi de parâmetros
A Meta divulgou os pesos do Muse Spark Open: 816 bilhões de parâmetros, 42 bilhões ativos por token, contexto de 1 milhão de tokens, foco em programação e agentes.
Notícias e análises sobre arquitetura MoE
6 artigos verificados sobre arquitetura MoE, produtos e movimentos do setor.
StepFun abre os pesos do Step 5, modelo de 600B roda em 8 GPUs
A StepFun publicou no Hugging Face os pesos do Step 5 Preview, como prometido: MoE com cerca de 600 bilhões de parâmetros, versão FP8 roda em um servidor com 8 GPUs H200.
StepFun lança Step 5 Preview e afirma custo de apenas um oitavo do Opus 5
A StepFun apresenta o Step 5 Preview, modelo MoE com 600 bilhões de parâmetros, terceiro lugar entre modelos de código aberto, com custo alegado de 1/8 do Opus 5.
Kimi K2.6 conquista primeiro lugar open source no ranking HLE
A Moonshot AI lançou a versão completa do modelo Kimi K2.6, que alcançou 54,0 no HLE-Full, superando Claude Opus 4.6 e GPT-5.4 para garantir a liderança entre modelos open source. O modelo de 1 trilhão de parâmetros usa arquitetura MoE, ativando apenas 32 bilhões de parâmetros por inferência, e suporta até 300 agentes paralelos.
NVIDIA lança toda a linha Nemotron 3 como código aberto, incluindo dados de treinamento
A NVIDIA lançou como código aberto toda a família de modelos Nemotron 3, incluindo pesos, conjunto de dados de pré-treinamento de 3 trilhões de tokens, pipelines de aprendizado por reforço e ferramentas de avaliação, sinalizando um movimento estratégico para ocupar um lugar no ecossistema de IA de código aberto.
Mistral lança modelo MoE de código aberto: 119B, mas apenas 6,5B ativados
Mistral lançou o Small 4, um modelo MoE com 119B de parâmetros que ativa apenas 6,5B por inferência, unificando três modelos independentes anteriores em um só, com suporte a raciocínio textual, compreensão multimodal de imagens, geração de código e chamadas de função.