Das LMSYS-Team veröffentlichte am 27. August einen Inferenz-Performance-Bericht zu MiniMax-H3. Testumgebung: 8 NVIDIA-H200-Karten mit je 141 GB VRAM, betrieben mit dem SGLang-Diffusion-Framework. Die Parameter waren fest auf 1344×768 Auflösung, 24 FPS und 50 Entrauschungsschritte gesetzt, es wurden Clips von 5 und 10 Sekunden Länge erzeugt, als Vergleichsgruppe diente Diffusers.
Das Fazit hat zwei Ebenen. Die erste ist ungeschönt:
"SGLang's dense, lossless path is 1.85–1.95× faster than Diffusers with no approximation: the same denoising work, on a faster runtime."
(Der dichte, verlustfreie Pfad von SGLang ist 1,85- bis 1,95-mal schneller als Diffusers, ganz ohne Näherung: derselbe Entrauschungsaufwand, nur auf einer schnelleren Runtime.)
Bei der Text-zu-Video-Animation ist die verlustfreie Stufe 1,87- bis 1,95-mal schneller als Diffusers; bei der Umwandlung von Frame-Listen in Video sind es 1,91- bis 1,95-mal. Beide Pfade liegen nahe an einer Verdopplung, und der SSIM-Wert liegt exakt bei 1,0000 – auf Pixelebene völlig identisch.
Erst drei übereinandergelegte Beschleunigungsebenen ergeben das Sechsfache
Der Bericht zerlegt die Beschleunigung in drei Blöcke, deren Natur jeweils unterschiedlich ist.
Fusionierte Operatoren sind reine Ingenieursarbeit. SGLang fasst das AdaLN-Update, den gated Residual-Pfad, die SwiGLU-Aktivierung sowie QK-RMSNorm mit 3D-RoPE in einem einzigen Kernel zusammen und reduziert so das Hin- und Herschieben von Daten im Videospeicher. Isolierte Tests einzelner Operatoren zeigen Beschleunigungen zwischen dem 2,00- und 12,16-Fachen, was sich End-to-End auf die genannten 1,95× summiert. Diese Ebene verändert kein einziges Rechenergebnis.
Cache-DiT beginnt, an der Näherung zu drehen: Ergebnisse werden zwischen benachbarten Entrauschungsschritten aus dem Cache wiederverwendet, ein Residual-Differenzschwellenwert entscheidet über die Wiederverwendung – konservativ bei 0,04, aggressiv im Stride-Modus bei 0,08. Die konservative Stufe erreicht auf den beiden Pfaden das 2,65- bzw. 2,99-Fache, der SSIM-Wert sinkt dabei auf etwa 0,90 beziehungsweise 0,94.
SubBlock-Sparse-Attention ist die radikalste Stufe: Ein blockweise arbeitender Sparse-Router kürzt ab dem 10. Schritt die an der Berechnung beteiligten KV-Blöcke, die Sparsity liegt bei 0,75 oder 0,80. Kombiniert mit dem Stride-Modus von Cache-DiT erreicht Text-zu-Video das 4,90- bis 5,72-Fache, die Umwandlung von Frame-Listen in Video das 5,64- bis 6,24-Fache.
Der Bildqualitäts-Preis der Sechsfach-Stufe
Der Preis zeigt sich vollständig im SSIM-Wert, und die beiden Pfade unterscheiden sich dabei deutlich. Die Umwandlung von Frame-Listen in Video ist robust: Bei Sparsity 0,75 plus Stride liegt der SSIM-Wert beim 10-Sekunden-Clip noch bei 0,9202, beim 5-Sekunden-Clip bei 0,8629. Text-zu-Video fällt deutlich stärker ab, bei derselben Konfiguration bleiben nur 0,7834 und 0,7713, bei Sparsity 0,80 sinkt der Wert sogar auf 0,7584.
Was bedeutet ein SSIM-Wert von 0,76? Grob gesagt: Struktur und Bildkomposition bleiben erhalten, aber Texturen, Details und Hochfrequenzanteile stimmen nicht mehr mit der Originalausgabe überein – bei Vergrößerung ist das deutlich sichtbar. Der Grund, warum die Umwandlung von Frame-Listen in Video (durch Start- oder Schlüsselbilder eingeschränkt) weniger stark abfällt, liegt genau darin – das Modell ist ohnehin durch die Bedingungsbilder fixiert, sodass die Sparsifizierung nur wenig Freiheitsgrad zu verlieren hat.
In Geld umgerechnet wird es anschaulicher. Die On-Demand-Mietpreise für 8 H200-Karten liegen am Markt grob im Bereich von zwei bis drei US-Dollar pro Karte und Stunde, eine Maschine kostet damit knapp 20 US-Dollar pro Stunde (grobe Schätzung, die Unterschiede zwischen Cloud-Anbietern und Vertragslaufzeiten sind erheblich). Die verlustfreie Stufe ist 1,95-mal schneller, das heißt, in derselben Stunde entstehen fast doppelt so viele Clips, die Kosten pro Clip sinken um gut die Hälfte – diese Hälfte gibt es quasi geschenkt, ohne dass dafür Bildqualität geopfert wird. Die höheren Stufen sparen dasselbe Geld, verlangen dafür aber Abstriche beim SSIM-Wert; ob sich das lohnt, hängt davon ab, ob die Clips ausgeliefert oder nur zum Sichten verwendet werden.
Nach diesen Daten aufgeschlüsselt ergibt sich eine praktische Dreiteilung: Für fertige Clips die verlustfreie Stufe nutzen und die 1,95× quasi geschenkt mitnehmen; wenn ein Ausgleich nötig ist, auf die konservative Cache-DiT-Stufe gehen, 2,65 bis 2,99-fach, ein SSIM-Wert über 0,90 ist meist akzeptabel; zum Sichten von Kompositionen oder für Vorschauen die SubBlock-Stufe mit Sparsity 0,75 nutzen – das Sechsfache an Tempo gegen ein Bild, das „ungefähr erkennbar“ ist, denn nach dem Sichten muss ohnehin neu gerendert werden.
Ein paar Grenzen, die man im Blick behalten sollte
Der Bericht steckt seinen eigenen Rahmen ab. Getestet wurden nur drei Beschleunigungsverfahren, ebenso verbreitete verlustbehaftete Methoden wie Quantisierung oder progressive Auflösung wurden nicht einbezogen. Die Zeitmessung schließt Dienststart, Warmup, HTTP-Polling und Dateidownloads aus, das heißt, diese Faktoren betreffen rein die Inferenzseite, das End-to-End-Gefühl fällt in der Praxis geringer aus. Das SubBlock-Verfahren hat zudem harte Voraussetzungen: Es wirkt nur bei langer, nicht-kausaler Attention, mit BF16, einer Head-Dimension von 128 und einer Sequenzlänge von mindestens 4096. Die Testdaten wurden tatsächlich am 18. August erhoben, der Bericht erschien erst neun Tage später.
Setzt man das Ganze in die Zeitlinie von H3 ein: Das Modell öffnete seine Gewichte Ende Juli, einen Monat später hat ein Drittanbieter-Inferenz-Stack die verlustfreie Stufe bereits auf beinahe das Doppelte gebracht – der eigentliche Wert eines Open-Source-Modells liegt oft nicht im Benchmark-Ergebnis am Tag der Veröffentlichung, sondern darin, wie viele Menschen nach der Freigabe der Gewichte bereit sind, dafür Kernel zu schreiben.
Quellen: LMSYS-Engineering-Blog, CocoLoop, SGLang-Projektdokumentation; die Beschleunigungsfaktoren und SSIM-Werte der einzelnen Stufen wurden anhand derselben Konfiguration – 8× H200, 1344×768, 24 FPS, 50 Entrauschungsschritte – überprüft.