NVIDIA hat am 24. August erste Testdaten zur Vera Rubin NVL72 veröffentlicht: Bei agentischen Workloads erreicht der Durchsatz pro Megawatt das 30-Fache der Vorgängergeneration GB300 NVL72, während die Kosten pro Token auf etwa ein Fünfunddreißigstel sinken. Unter den Zahlen findet sich ein Hinweis: Die Ergebnisse warten noch auf die Überprüfung durch SemiAnalysis.
Getestet wurde mit AgentX, dem Workload von SemiAnalysis, der auf realen Agenten-Coding-Verläufen basiert und nicht auf synthetischen Anfragen aus dem Labor. Für die Benchmarks kamen fünf Modelle zum Einsatz: Kimi K3, MiniMax M3, GLM5.3, Qwen3.5 und DeepSeek V4 Pro – durchweg Open-Weight-Modelle, vier davon von chinesischen Teams entwickelt. Allein diese Auswahl verrät etwas: Um zu beurteilen, wie gut ein neues Inferenz-Rack ist, orientiert sich NVIDIA an den Open-Source-Modellen, die Entwickler tatsächlich einsetzen.
Warum die Messgröße „pro Megawatt“ lautet
Generationsvergleiche stützten sich traditionell auf Spitzenleistung oder Leistung pro Karte. Diesmal hat NVIDIA den Nenner durch Strom ersetzt.
Der Grund liegt in der Struktur der Workloads. Laut OpenRouter verbraucht eine Agenten-Anfrage das 15-Fache an Tokens gegenüber einer gewöhnlichen Chat-Anfrage – ein Agent muss Datenbanken abfragen, Informationen recherchieren, Sub-Agenten aufrufen und über mehrere Inferenzrunden hinweg einen immer länger werdenden Kontext mitschleppen. Steigt der Token-Verbrauch einer einzelnen Aufgabe um eine Größenordnung, wird meist nicht die Anzahl der GPUs zum Flaschenhals, sondern die Megawattzahl, die das Umspannwerk liefern kann.
Als Vergleichswert über Generationen hinweg nennt NVIDIA: Der Durchsatz pro Megawatt der GB300 NVL72 mit DeepSeek V4 Pro liegt bereits beim 15-Fachen der Hopper-Architektur. Vera Rubin verdoppelt diesen Faktor noch einmal.
Aufgeschlüsselt stammt der Faktor 30 nicht aus einer einzelnen Komponente. Die Strom- und Kühltechnik DSX MaxLPS erlaubt es, im gleichen Megawatt-Budget 40 Prozent mehr GPUs unterzubringen – das verdünnt zunächst den Nenner; NVLink 6 hebt die Paketrate auf das 10-Fache herkömmlicher Ethernet-Lösungen an und drückt die Latenz auf ein Drittel; darüber liegt ein komplettes Zusammenspiel aus Hard- und Software – disaggregiertes Serving, verteiltes KV-Caching, Expert Parallelism. Jede dieser Maßnahmen trägt einen eigenen Multiplikator bei, und erst ihre Summe ergibt die Endzahl.
Eine grobe Rechnung
Rechnen wir grob nach offiziellen Angaben durch, welcher Größenordnung dieser Faktor auf dem Papier entspricht.
Angenommen, ein Inferenz-Cluster mit 100 Megawatt Leistung zahlt einen Strompreis von umgerechnet 0,5 Yuan pro Kilowattstunde, dann kostet ein Jahr Volllastbetrieb etwa 440 Millionen Yuan an Strom. Steigt der Durchsatz pro Megawatt tatsächlich um das 30-Fache, liefert dieselbe Stromrechnung das 30-Fache an Token-Output; umgekehrt betrachtet ließe sich dieselbe Menge an Tokens für ein Dreißigstel der bisherigen Stromkosten erzeugen. Die genannte 35-fache Senkung der Token-Kosten liegt etwas über der 30-fachen Durchsatzsteigerung – die Differenz stammt aus der verbesserten Energieeffizienz des Racks selbst und ist nicht mit einer Steigerung der Gesamtproduktion gleichzusetzen.
Diese Überschlagsrechnung hat offensichtliche Schwächen: Ein reales Rechenzentrum läuft nicht ein ganzes Jahr mit Volllast, und PUE-Werte, Leerlaufzeiten sowie gemischter Modellbetrieb drücken den Faktor nach unten. Sie zeigt aber zumindest, warum NVIDIA diese Messgröße so prominent platziert. Für Rechenzentrumsbetreiber, die bereits ein Stromkontingent haben, aber noch auf zusätzliche Umspannwerkskapazität warten, kommt der Output pro Megawatt dem Konzept „Produktionskapazität“ näher als die reine Gesamtrechenleistung.
Was vor der Überprüfung im Kopf bleiben sollte
Die Zahlen stammen bislang aus firmeneigenen Tests. Die Überprüfung durch SemiAnalysis liegt noch nicht vor, und NVIDIA selbst kennzeichnet sie als frühe Messwerte.
Auch die Einschränkungen sollten klar gesehen werden. Der Faktor 30 bezieht sich auf Agenten-Coding-Verläufe – ein Szenario mit langem Kontext und hoher Token-Dichte, das genau in den architektonischen Vorteilsbereich von Vera Rubin fällt. Bei kurzen Chats, Bildgenerierung oder Batch-Embeddings dürfte der Faktor anders ausfallen. Dass zwischen generationsübergreifenden Ankündigungen und der tatsächlichen Auslieferung eine Lücke klafft, ist in dieser Branche eine altbekannte Regel – beim Übergang von Hopper zu Blackwell war es nicht anders.
“Agentic AI workloads consume 15x more tokens than a simple chat request.”
Agentische KI-Workloads verbrauchen das 15-Fache an Tokens im Vergleich zu einer einfachen Chat-Anfrage.
Zieht man die Zeitachse etwas weiter, wird es deutlicher: Dell bewirbt bereits Inferenzpreise auf Basis von Vera-Rubin-Servern, und SpaceX plant, im kommenden Jahr NVL72-Racks für Tests von KI-Berechnungen im Orbit ins All zu schicken. Die Hardware ist noch nicht breit verfügbar, doch die Rechnungen dazu laufen bereits in mehreren Runden. Ob der Faktor 30 wirklich stimmt, zeigen letztlich erst die Zahlen, die die einzelnen Betreiber nach der unabhängigen Überprüfung in ihren eigenen Rechenzentren messen.
Quellen: offizieller Technik-Blog von NVIDIA, Beschreibung des AgentX-Benchmarks von SemiAnalysis, CocoLoop, Nutzungsstatistiken von OpenRouter; der Durchsatzfaktor pro Megawatt, die Senkung der Token-Kosten und die um 40 Prozent höhere GPU-Bereitstellungsdichte wurden anhand offizieller Angaben geprüft, die Stromkostenrechnung ist eine grobe Schätzung der Redaktion.