Am 16. März veröffentlichte Mistral Small 4 – ein unscheinbarer Name, hinter dem ein recht praktischer Produktansatz steckt: Mittels MoE-Architektur wurden drei bisher separate Modelle in einem einzigen vereint, sodass eine einmalige Bereitstellung für alle Szenarien ausreicht.
Ein Modell, drei Einsatzbereiche
Bislang hatte Mistral drei Modelle mit jeweils eigener Aufgabe:
- Magistral: Speziell für komplexe Aufgaben, die logisches Denken erfordern
- Pixtral: Zuständig für multimodales Bildverständnis
- Devstral: Speziell für Codegenerierung und Entwicklung
Wenn alle drei Modelle genutzt werden sollten, bedeutete das drei Bereitstellungssysteme, drei Scheduling-Logiken und dreifache Betriebskosten. Small 4 fasst sie direkt zusammen.
Ein einziges Modell, das gleichzeitig Textlogik, Bildverständnis, Codegenerierung, Funktionsaufrufe und JSON-Ausgabe unterstützt, mit einem Kontextfenster von 256K.
Die Kernlogik von MoE: Groß, aber nicht teuer
Die Parameterkonfiguration von Small 4 ist sehr repräsentativ:
| Kennzahl | Wert |
|---|---|
| Gesamtparameter | 119B |
| Anzahl der Experten | 128 |
| Pro Inferenz aktivierte Experten | 4 |
| Tatsächlich aktivierte Parameter | 6,5B |
| Kontextfenster | 256K |
119B klingt gewaltig, aber pro Inferenz werden tatsächlich nur 6,5B Parameter genutzt – das ist der Kernwert der MoE-Architektur: Das Modell weiß mehr, aber bei der Berechnung wird nur ein kleiner Teil verwendet. Die Inferenzkosten liegen nahe an denen eines dichten 6,5B-Modells, aber die Leistungsgrenzen sind deutlich weiter gesteckt.
Im Vergleich zu Small 3 sank die Ende-zu-Ende-Latenz um 40 %, und die Anzahl der pro Sekunde verarbeitbaren Anfragen verdreifachte sich.
Diese Logik folgt dem gleichen Weg wie DeepSeek V3 und Qwen3: Nicht mit noch größeren Gesamtparametern beeindrucken, sondern durch sparse Activation eine Balance zwischen Effizienz und Leistungsfähigkeit finden.
reasoning_effort: Denkfähigkeit nach Bedarf zu- und abschalten
Dies ist ein recht praktischer Aspekt des diesmaligen Produktdesigns.
Bisher musste man sich zwischen einem schnellen Antwortmodell und einem langsamen Denkmodell entscheiden, was oft die Bereitstellung zweier verschiedener Modelle erforderte. Small 4 fügt einen Parameter hinzu, der es erlaubt, auf API-Ebene direkt zu steuern: Soll bei dieser Anfrage die Denkfähigkeit genutzt werden und wenn ja, in welchem Umfang?
Einfache Fragen erhalten eine schnelle Antwort, komplexe Fragen dürfen länger nachdenken – dasselbe Modell, dieselbe API, kein Wechsel nötig. Dieses Design spart Entwicklungsteams viel Aufwand.
Open-Source-Lizenz und Verfügbarkeit
Mistral veröffentlicht das Modell erneut unter der Apache-2.0-Lizenz, ohne kommerzielle Einschränkungen. Die Gewichte können direkt heruntergeladen und selbst bereitgestellt werden.
Derzeit verfügbar über:
- Mistral API und AI Studio
- Hugging Face (vollständige Gewichte zum Download)
- NVIDIA build.nvidia.com (kostenloser Prototypentest)
- NVIDIA NIM Container (Produktionsbereitstellung)
Apache 2.0 ist für Unternehmen die sauberste Lizenz – keine Bedenken hinsichtlich Nutzungseinschränkungen, Änderungen sind erlaubt, und die Weitergabe ist problemlos möglich.
Im Kontext des Open-Source-Großmodell-Trends
In den letzten zwei Jahren hat sich die Wettbewerbslandschaft der Open-Source-Großmodelle sehr schnell verändert. DeepSeek V3 hat mit MoE und kostengünstigem Training den Schutzwall der geschlossenen Modelle untergraben, Alibabas Qwen3 hat mit der Apache-Lizenz neue Märkte erschlossen, und Metas Llama 4 wurde im April ebenfalls in einer MoE-Version veröffentlicht.
Mistrals Small 4 geht einen ähnlichen Weg: 119B Gesamtparameter, 6,5B aktiviert, Apache-Lizenz, und die Bündelung von Logik, Multimodalität und Code in einer einzigen Bereitstellungseinheit. Vor zwei Jahren gab es diese Konfiguration nur bei den besten geschlossenen Modellen – jetzt kann man sie kostenlos herunterladen.
Für Teams, die in der Produktion eigene KI-Fähigkeiten aufbauen möchten, wandeln sich Open-Source-Modelle von einer Notlösung zu einer ernsthaften Option. Small 4 erweitert diesen Optionenpool, und sein Hauptwert liegt in der Reduzierung der Bereitstellungskomplexität – man muss nicht mehr drei Modelle gleichzeitig betreiben, eines reicht.
Ob es für Ihr Szenario geeignet ist, muss dennoch durch Benchmarks ermittelt werden. Mistral gibt offiziell an, dass die Unterstützung für Chinesisch nicht so gut ist wie für Englisch – das müssen inländische Teams gesondert bewerten.
Quellenangabe: CocoLoop, 119B Parameters, 6.5B Activated: Mistral Small 4 Collapses Three Open Models Into One (BaristaLabs Blog); Mistral AI Releases Mistral Small 4 (MarkTechPost)