3 geprüfte Beiträge zu MoE-Architektur, Produkten und Branchenentwicklungen.
Moonshot AI hat die Vollversion des Kimi K2.6-Modells veröffentlicht, das im HLE-Full-Benchmark 54,0 Punkte erreicht und damit Claude Opus 4.6 sowie GPT-5.4 übertrifft. Das 1-Billion-Parameter-Modell nutzt eine MoE-Architektur, aktiviert pro Inferenz nur 32 Milliarden Parameter und unterstützt bis zu 300 parallele Agenten.
NVIDIA hat die gesamte Nemotron-3-Modellfamilie als Open Source veröffentlicht – einschließlich Gewichten, einem 3-Billionen-Token-Vortrainingsdatensatz, Reinforcement-Learning-Pipelines und Evaluierungstools – und signalisiert damit einen strategischen Vorstoß in das Open-Source-KI-Ökosystem.
Mistral hat Small 4 vorgestellt, ein MoE-Modell mit 119B Parametern, das pro Inferenz nur 6,5B aktiviert. Es vereint drei bisher eigenständige Modelle in einem und unterstützt Textlogik, Bildverständnis, Codegenerierung und Funktionsaufrufe.