Diffusionsmodell Mercury 3 schafft über 1.000 Token pro Sekunde

Das US-amerikanische KI-Unternehmen Inception hat am 19. Oktober das Diffusions-Sprachmodell Mercury 3 vorgestellt und bezeichnet es als das derzeit leistungsfähigste Diffusions-LLM. Das Modell läuft bereits auf Inceptions eigener API-Plattform und ist zudem in OpenRouter, Baseten und Vercel eingebunden.

Die offiziellen Eckdaten: Auf Nvidia-GPUs erzeugt das Modell 1068 Token pro Sekunde; das Kontextfenster umfasst 1 Million Token, beim Vorgänger Mercury 2.5 waren es 260.000; die Gesamtzahl der Parameter liegt mehr als 40-mal über der des ersten Mercury 1, konkrete Zahlen wurden nicht veröffentlicht.

Tempo und Preis

Laut Inception übertrifft Mercury 3 in einer Reihe von Benchmarks OpenAIs GPT-6 Luna und Anthropics Claude Haiku 5.5 und arbeitet 4- bis 8-mal schneller als diese Vergleichsmodelle. Der Blogbeitrag nennt jedoch keine Einzelwerte, sondern nur, dass die Intelligenz in Standard-Benchmarks gegenüber Mercury 1 (mini) um rund das Dreifache gestiegen sei. Unabhängige Tests externer Stellen liegen noch nicht vor.

Zwei Tests lassen sich mit konkreten Zahlen belegen. Der erste betrifft Browser-Agenten: Bei 50 realen Webnavigationsaufgaben aus Mind2Web löste Mercury 3 die Hälfte; das Unternehmen spricht von „deutlich mehr als GPT-6.1-Sol“. Der zweite stammt vom Partner Octen AI: In dessen Sense API, die Mercury 3 für die Generierung nutzt, beträgt die mediane Generierungszeit 0,9 Sekunden und die mediane Antwortzeit von Anfang bis Ende 2,2 Sekunden, wobei Octens eigene Suche nur etwa 80 Millisekunden ausmacht.

Der Preis liegt bei 0,20 US-Dollar pro Million Eingabe-Token und 0,70 US-Dollar pro Million Ausgabe-Token. Während der Startphase gilt ein Nachlass von 50 Prozent, also 0,10 und 0,35 US-Dollar; für Eingaben mit Cache-Treffer gibt es einen weiteren Rabatt. Neue Nutzer der API-Plattform erhalten 100 Millionen kostenlose Token.

Inception verortet die Bedeutung dieser Veröffentlichung im Blog bei der Skalierung:

"The scaling laws that drove progress in autoregressive models hold for diffusion too."

Die Skalierungsgesetze, die den Fortschritt autoregressiver Modelle getragen haben, gelten auch für Diffusionsmodelle.

Wer in diesem Jahr auf Diffusion setzt

Gängige große Modelle schreiben autoregressiv: Ein Token nach dem anderen wird ausgegeben, und das nächste muss auf das vorige warten. Diffusionsmodelle übernehmen die Idee aus der Bilderzeugung: Zuerst entsteht ein grober Entwurf für einen ganzen Abschnitt, der dann in mehreren Entrauschungsrunden verfeinert wird, wobei viele Positionen gleichzeitig aktualisiert werden. Genau daraus ergibt sich der Geschwindigkeitsvorteil.

In diesem Jahr hat der Ansatz spürbar an Fahrt gewonnen. Im Mai veröffentlichte Nvidias Nemotron Labs Nemotron-Labs-Diffusion in den Größen 3B, 8B und 14B; dasselbe Modell kann zwischen mehreren Dekodierverfahren wechseln, darunter autoregressiv und Diffusion. Im Juni stellte Google DiffusionGemma als Open Source vor, das 256 Token parallel auf einmal erzeugt. Auch auf der diesjährigen ICML ging ein Hauptpreis an eine Arbeit aus dem Diffusionsbereich.

Im Vergleich verfolgen die Beteiligten unterschiedliche Ansätze. Nvidia und Google veröffentlichen kleine und mittlere Open-Source-Modelle, die eher auf Forschung und Endgeräte zielen. Inception setzt dagegen durchgehend auf eine geschlossene, kommerzielle API und will mit Tempo und Preis latenzempfindliche Einsatzfelder erobern, etwa Code-Vervollständigung, Sprachassistenten und Agenten-Abläufe, die das Modell Dutzende Male hintereinander aufrufen. Mit Mercury 3 vergrößert das Unternehmen Parameterzahl und Kontext gleichzeitig. Es will zeigen, dass Diffusionsmodelle auch mit wachsender Größe leistungsfähig bleiben und nicht nur „schnell, aber dumm“ sind.

Ob das gelingt, hängt von zwei Dingen ab: den Werten in unabhängigen Ranglisten und davon, ob die Plattformen, die das Modell in die Produktion eingebunden haben, es auch nach einigen Monaten weiter nutzen. Der offizielle Blog nennt nur Zahlen eines einzelnen Kunden, Octen; die Stichprobe ist noch zu klein.

Der Vorgänger Mercury 2 wurde erst vor wenigen Tagen vom Magazin TIME in die Liste der besten Erfindungen des Jahres 2026 aufgenommen. Öffentliche Berichte hatten zuvor erwähnt, dass sowohl Microsoft als auch SpaceX mit Inception in Kontakt stünden; zum Stand etwaiger Geschäfte gibt es derzeit keine neuen öffentlichen Informationen.

Quellen: Offizieller Inception-Blog (geprüft: Geschwindigkeit, Kontext, Mind2Web-Erfolgsquote, API-Standardpreis und Startrabatt), OpenRouter-Modellseite, CocoLoop, technische Unterlagen von Google und Nvidia zu Diffusionsmodellen.