6 artículos verificados sobre arquitectura MoE, productos y movimientos del sector.
Meta publica los pesos de Muse Spark Open: 816.000 millones de parámetros, 42.000 millones activos por token, contexto de 1 millón de tokens y foco en programación y agentes.
StepFun ha publicado en Hugging Face los pesos de Step 5 Preview, tal como prometió: MoE de unos 600.000 millones de parámetros, con versión FP8 para un servidor de 8 GPU H200.
StepFun presenta Step 5 Preview, un modelo MoE de 600 000 millones de parámetros, tercero entre los modelos de código abierto, con un coste que dice ser un octavo del de Opus 5.
Moonshot AI ha lanzado la versión completa del modelo Kimi K2.6, que alcanzó 54,0 en HLE-Full, superando a Claude Opus 4.6 y GPT-5.4 para asegurar el liderazgo entre modelos open source. El modelo de 1 billón de parámetros utiliza arquitectura MoE, activando solo 32 mil millones de parámetros por inferencia, y soporta hasta 300 agentes paralelos.
NVIDIA ha lanzado como código abierto toda la familia de modelos Nemotron 3, incluyendo pesos, un conjunto de datos de preentrenamiento de 3 billones de tokens, pipelines de aprendizaje por refuerzo y herramientas de evaluación, marcando un movimiento estratégico para posicionarse en el ecosistema de IA de código abierto.
Mistral presentó Small 4, un modelo MoE con 119B de parámetros que activa solo 6,5B por inferencia, fusionando tres modelos independientes anteriores en uno solo, con soporte para razonamiento textual, comprensión multimodal de imágenes, generación de código y llamadas a funciones.