4 artículos verificados sobre MoE, productos y movimientos del sector.
Meta lanzó Llama 4, la primera versión de la serie en usar arquitectura MoE, con dos modelos: Scout y Maverick. Ambos ofrecen multimodalidad nativa y superan a GPT-4o y Gemini 2.0 en varias tareas.
Moonshot AI lanzó como código abierto Kimi K2, un modelo MoE con 1 billón de parámetros que activa solo 32B parámetros por token, liderando en benchmarks de programación y capacidades de agente.
DeepSeek V3.1 es el primer modelo híbrido de la compañía, que integra las capacidades de V3 (general) y R1 (razonamiento) en un solo modelo, con modos Think y Non-Think intercambiables.
DeepSeek V3 emplea una arquitectura MoE con 671B parámetros, activando solo 37B por token, y logra un rendimiento comparable al GPT-4o con un costo de entrenamiento de solo 5,5 millones de dólares.