Die ModelScope-Community hat eine Teaser-Seite für Qwen3.8-Flash-Next veröffentlicht, der Countdown zeigt auf 23 Uhr am 26. August (UTC+8), Standardversion und FP8-Version werden gleichzeitig zum Download freigegeben. Das gleichnamige Repository auf Hugging Face enthält nur einen einzigen Beschreibungssatz: A Preview of the Qwen4 Architecture.
Die aus der Teaser-Seite durchgesickerte Parameterkonfiguration lautet: 125 Mrd. Hauptparameter, zusätzlich 51 Mrd. N-Gramm-Embeddings, pro Token werden 6 Mrd. Parameter aktiviert. Das Modell ist als multimodales MoE positioniert; offiziell heißt es, es baue auf der Architektur der nächsten Generation Qwen4 auf und mache den Architekturfortschritt vorab quelloffen, um die Community auf die Qwen4-Serie vorzubereiten.
Aktivierungsrate auf unter 5 Prozent gedrückt
Von 125 Mrd. werden nur 6 Mrd. aktiviert, die Aktivierungsrate liegt grob gerechnet unter 5 Prozent. Zum Vergleich: Die in der Branche in den letzten zwei Jahren üblichen dünnbesetzten (sparse) MoE-Modelle liegen meist zwischen 5 und 10 Prozent – Flash-Next drückt die Sparsity noch eine Stufe weiter nach unten.
Das ist eine Konfiguration, die klar auf Inferenzkosten zielt. Der VRAM-Bedarf eines MoE-Modells richtet sich nach der Gesamtparameterzahl, der Rechenaufwand nach den aktivierten Parametern – die 125 Mrd. Gewichte müssen komplett in den VRAM passen, aber jeder Forward-Pass durchläuft nur den 6-Mrd.-Pfad. Auf der Deployment-Seite bedeutet das: Die Schwelle für die GPU-Kapazität sinkt nicht, aber die Schwelle für Rechenleistung und Latenz sinkt deutlich. Mit der FP8-Version lässt sich der Gewichtsspeicher noch einmal etwa halbieren. Das „Flash“ im Namen dürfte genau darauf anspielen.
Ungewöhnlich in der Parametertabelle sind die 51 Mrd. N-Gramm-Embeddings, die separat von den Hauptparametern ausgewiesen werden. Embedding-Strukturen basieren üblicherweise vor allem auf Lookup-Tabellen und sind nicht an der schichtweisen Matrixberechnung beteiligt – falls Flash-Next diesen Weg geht, wären die 51 Mrd. eher eine Investition, die VRAM gegen Effekt tauscht, statt zusätzlicher Rechenlast. Wie es konkret umgesetzt ist, lässt sich erst bestätigen, wenn heute Abend Model Card und Konfigurationsdateien veröffentlicht werden.
Warum „3.8“, aber mit Qwen4-Architektur
Der Name wirkt sperrig, die Logik dahinter ist aber konsistent. Es ist nicht das erste Mal, dass Qwen am Ende der 3.x-Serie eine Next-Vorschau platziert – das Muster ist immer dasselbe: Routing-Verfahren, Attention-Varianten und Trainings-Stack der nächsten Generation werden zunächst an einem mittelgroßen Modell erprobt und quelloffen veröffentlicht, damit die Community die Toolchain vorab anpassen kann, bevor die offizielle große Version folgt.
Der Nutzen ist handfest. Ob ein Open-Source-Modell am Erscheinungstag direkt von Frameworks wie vLLM, SGLang oder llama.cpp unterstützt wird, entscheidet maßgeblich über die Adoptionskurve der ersten zwei Wochen. Sobald eine Architektur neue Operatoren oder Routing-Verfahren enthält, zieht sich die Anpassung oft über Wochen hin. Unsloth hat bereits angekündigt, an Day-Zero-Support zu arbeiten – genau dieser Weg verlagert die Zeitkosten der Architekturanpassung vom Erscheinungstag von Qwen4 auf heute.
Das Repository auf Hugging Face hatte schon vor der Freigabe 1.299 Personen, die eine Benachrichtigung angefordert haben – für ein leeres Repository ohne Model Card ist das keine niedrige Zahl.
Worauf nach heute Abend zu achten ist
Die Teaser-Seite liefert Informationen nur bis zur Parameterzahl, mehrere Schlüsselkennzahlen fehlen bislang: Kontextlänge, welche Modalitäten das multimodale Modell abdeckt, ob die Lizenz weiterhin Apache 2.0 ist, und am wichtigsten – die Benchmark-Ergebnisse.
Alibabas Strategie im Open-Source-Bereich bestand im vergangenen Jahr darin, Gewichte als Einstiegspunkt in das Ökosystem zu behandeln – auch die Gewichte der Max-Modelle wurden veröffentlicht. Mit Flash-Next verschiebt sich der Zeitplan noch weiter nach vorn: Die Architektur wird veröffentlicht, bevor das Modell überhaupt ausgereift ist. Für Teams im Inland, die Inferenz-Deployment und Fine-Tuning betreiben, dürften die ersten 48 Stunden nach 23 Uhr heute Abend arbeitsreich werden.
Quellen: ModelScope-Modellseite, Hugging-Face-Repository, CocoLoop, Decrypt, Hacker-News-Community-Diskussion; Parameterkonfiguration und Freigabezeitpunkt basieren auf den Angaben der Modellseite, die Aktivierungsrate ist eine grobe Schätzung anhand der öffentlichen Parameter.