Am 22. April veröffentlichte das Qwen-Team ein neues Modell auf Hugging Face. Mit 27 Milliarden Parametern, Dense-Architektur und Apache-2.0-Lizenz heißt es Qwen3.6-27B.
Im Veröffentlichungsbeitrag wurden die Benchmark-Ergebnisse aufgelistet. SWE-bench Verified: 77,2 Punkte. Daneben wurde auch das Ergebnis von Qwen3.5-397B-A17B aufgeführt: 76,2 Punkte.
Ein 27B-Dense-Modell hat in einem Programmier-Benchmark das eigene 397B-MoE-Flaggschiff geschlagen.
Das ist kein Zufall, sondern hat konkrete Gründe.
Wo das MoE zu lecken beginnt
Die MoE-Architektur (Mixture of Experts) war in den letzten zwei Jahren der dominierende Ansatz zur Skalierung großer Modelle. Die Logik ist einfach: Die Gesamtparameterzahl ist groß, aber bei jeder Inferenz wird nur ein kleiner Teil der "Experten" aktiviert, sodass der tatsächliche Rechenaufwand relativ kontrollierbar ist.
Qwen3.5-397B hat insgesamt 397 Milliarden Parameter und aktiviert bei jeder Inferenz 17 Milliarden. Qwen3.6-27B aktiviert bei jeder Inferenz alle 27 Milliarden Parameter – rechnerisch ähnlich, aber die Funktionsweise ist völlig anders.
Die Inferenz der Dense-Architektur ist konsistenter und vorhersagbarer. MoE hat beim Routing eine gewisse Zufälligkeit: Verschiedene Eingaben können unterschiedliche Expertenkombinationen aktivieren, was sich bei langen Kettenaufgaben zu Abweichungen aufsummieren kann.
Bei Aufgaben wie Codegenerierung ist Stabilität entscheidend. Man möchte "bei jedem Schritt richtig liegen", nicht "im Durchschnitt gut, aber manchmal abdriften".
Im Terminal-Bench 2.0 erreichte das 27B-Modell 59,3 Punkte, das 397B-Modell nur 52,5. In SkillsBench war der Abstand noch größer: 48,2 gegenüber 30,0.
| Modell | Parametergröße | SWE-bench | Terminal-Bench | SkillsBench |
|---|---|---|---|---|
| Qwen3.6-27B | 27B Dense | 77,2 | 59,3 | 48,2 |
| Qwen3.5-397B-A17B | 397B MoE | 76,2 | 52,5 | 30,0 |
In allen drei Tests gewann das 27B-Modell.
Was ist Thinking Preservation
Qwen3.6-27B enthält einen Mechanismus namens "Thinking Preservation", der eine gesonderte Erwähnung verdient.
In mehrrundigen Dialogen behält das Modell eine Zusammenfassung des vorherigen Denkprozesses. In der nächsten Runde muss es nicht von vorne anfangen zu denken – es setzt direkt auf den Ergebnissen der vorherigen Runde auf.
Das ist in Agent-Workflows sehr nützlich. Ein Agent, der eine zehnschrittige Aufgabe erledigen muss, sollte die Analyseergebnisse der ersten drei Schritte nicht im vierten Schritt verlieren, sondern als Kontext fortsetzen. Dies reduziert die Erzeugung redundanter Tokens und verringert das "Vergessensdriften" bei langen Aufgaben.
Dieses Design ist entgegengesetzt zur Routing-Mechanik von MoE: MoE skaliert Parameter horizontal, Thinking Preservation optimiert die Zustandsübertragung vertikal. Beide Ansätze lösen Probleme auf unterschiedlichen Ebenen.
Lauffähig auf Consumer-Hardware
Dies ist ein weiterer praktischer Wert dieses Modells.
Die Vollversion von Qwen3.5-397B benötigt 807 GB Speicherplatz. Auch die quantisierte Version benötigt mehrere hundert GB; zum Ausführen ist ein Multi-GPU-Server nötig, was für die meisten Entwickler nicht in Frage kommt.
Qwen3.6-27B:
- Vollversion: 55,6 GB
- Quantisierte GGUF-Version: 16,8 GB
- Lauffähig auf einer einzelnen RTX 4090, Geschwindigkeit etwa 25 Tokens/Sekunde
- M4 Max MacBook ist kein Problem
Das Standard-Kontextfenster beträgt 262.144 Tokens, erweiterbar auf 1 Million. Apache-2.0-Lizenz, keine kommerziellen Einschränkungen.
Dies senkt die Hürde für lokale Bereitstellungen erheblich. Ingenieurteams, die einen Programmier-Agenten im internen Netzwerk bereitstellen und keinen Code an Cloud-APIs senden möchten – früher bedeutete dieser Weg entweder die Verwendung schlechter Open-Source-Modelle oder den Kauf teurer GPU-Server. Jetzt gibt es eine Option.
Was das für MoE bedeutet
Der Zeitpunkt dieser Veröffentlichung von Alibaba ist interessant. Qwen3.6-27B kam wenige Tage nach Qwen3.6-Max (der proprietären Flaggschiff-Version) – eines zeigt die Spitzenleistung, um Geschäftskunden anzuziehen, das andere ist für die Entwickler-Community. Zwei Beine, die unterschiedliche Zielgruppen bedienen.
Aber die größere Frage ist: Wenn ein 27B-Dense-Modell beim agentischen Programmieren bereits mit Claude Opus 4.5 mithalten kann, in welcher Dimension wird der nächste Wettbewerb stattfinden?
Im Terminal-Bench liegt das 27B-Modell gleichauf mit Claude Opus 4.5, während der API-Preis von Opus 4.5 bei über 15 US-Dollar pro Million Tokens liegt. Qwen3.6-27B ist Open Source und kann selbst bereitgestellt werden.
Die inkrementellen Gewinne bei Benchmarks werden immer geringer. Nutzer achten zunehmend auf Latenz, Kosten und die Möglichkeit der lokalen Bereitstellung.
Dieser Trend ist vorteilhaft für Open-Source-Modelle und setzt geschlossene API-Dienste unter Druck.
Der nächste Schritt ist zu sehen, wie Kimi, DeepSeek und MiniMax reagieren.
Quellenangabe: CocoLoop, Qwen3.6-27B: Flagship-Level Coding in a 27B Dense Model (Simon Willison's Blog); Alibaba's Qwen3.6-27B Beats 397B Model in Coding Tasks (AI Daily Post); Qwen3.6-27B (Hacker News)