NVIDIA : le Vera Rubin NVL72 multiplierait par 30 le débit par mégawatt

Le 24 août, NVIDIA a publié un premier jeu de données de test pour le Vera Rubin NVL72 : sur des charges de type agentique, le débit par mégawatt atteint 30 fois celui de la génération précédente, le GB300 NVL72, tandis que le coût par token tombe à environ un trente-cinquième de son niveau antérieur. Une mention accompagne ces chiffres : les résultats attendent encore la vérification de SemiAnalysis.

Le test a utilisé la charge AgentX de SemiAnalysis, construite à partir de traces réelles de programmation agentique, et non de requêtes synthétiques de laboratoire. Cinq modèles ont servi de référence pour le benchmark : Kimi K3, MiniMax M3, GLM5.3, Qwen3.5 et DeepSeek V4 Pro, tous à poids ouverts, dont quatre développés par des équipes chinoises. Cette liste dit déjà quelque chose à elle seule : pour évaluer si un nouveau rack d’inférence est performant, NVIDIA a choisi comme référence les modèles open source que les développeurs utilisent réellement.

Pourquoi la mesure retenue est « par mégawatt »

Les comparaisons traditionnelles entre générations s’appuyaient sur la performance de crête ou la performance par carte. Cette fois, NVIDIA a remplacé le dénominateur par l’électricité.

La raison tient à la structure des charges de travail. Selon les statistiques d’OpenRouter, une requête agentique consomme 15 fois plus de tokens qu’une requête de chat classique — un agent doit interroger des bases de données, rechercher des informations, invoquer des sous-agents, tout en traînant un contexte de plus en plus long au fil des cycles d’inférence. Quand la consommation de tokens d’une seule tâche grimpe d’un ordre de grandeur, ce qui bride la montée en charge, c’est le plus souvent le nombre de mégawatts que le poste électrique peut fournir, bien plus que le nombre de GPU.

La comparaison intergénérationnelle donnée par NVIDIA est la suivante : le débit par mégawatt du GB300 NVL72 avec DeepSeek V4 Pro était déjà 15 fois supérieur à celui de l’architecture Hopper. Vera Rubin multiplie encore ce chiffre.

En détail, ce facteur 30 ne vient pas d’un seul élément. La technologie d’alimentation et de refroidissement DSX MaxLPS permet de déployer 40 % de GPU en plus dans le même budget de mégawatts, ce qui réduit d’emblée le dénominateur ; le NVLink 6 porte le débit de paquets à 10 fois celui des solutions Ethernet existantes et divise la latence par trois ; au-dessus, c’est tout un ensemble de coopération matériel-logiciel — service désagrégé, cache KV distribué, parallélisme d’experts. Chacun de ces leviers apporte son propre multiplicateur, et c’est leur addition qui aboutit au chiffre final.

Un calcul approximatif

Faisons un calcul rapide, sur la base des chiffres officiels, pour situer l’ordre de grandeur que représente ce facteur.

Supposons un cluster d’inférence de 100 mégawatts, avec un prix de l’électricité estimé à 0,5 yuan le kilowattheure ; en fonctionnement à pleine charge pendant un an, la facture d’électricité atteindrait environ 440 millions de yuans. Si le débit par mégawatt est réellement multiplié par 30, cette même facture d’électricité permettrait d’obtenir 30 fois plus de tokens produits ; à l’inverse, pour produire la même quantité de tokens, la facture d’électricité pourrait tomber à un trentième de son niveau actuel. Quant à la baisse de 35 fois du coût par token, elle est légèrement supérieure à la hausse de 30 fois du débit — l’écart provient de l’amélioration de l’efficacité énergétique du rack lui-même, ce qui est distinct d’une augmentation de la production totale.

Ce type de calcul approximatif comporte des distorsions évidentes : un data center réel ne fonctionne pas à pleine charge toute l’année, et des facteurs comme le PUE, les taux d’inactivité ou la cohabitation de plusieurs modèles tirent ce facteur vers le bas. Mais il explique au moins pourquoi NVIDIA met cette mesure en avant. Pour les opérateurs de data centers qui disposent déjà d’un quota d’électricité mais qui attendent encore une capacité supplémentaire de poste électrique, la production par mégawatt se rapproche davantage de la notion de « capacité de production » que la puissance de calcul totale.

Ce qu’il faut garder en tête avant la vérification

Ces chiffres restent pour l’instant des tests réalisés par le fabricant lui-même. L’évaluation de SemiAnalysis n’a pas encore été rendue, et NVIDIA les qualifie elle-même de mesures préliminaires.

Les conditions doivent également être bien comprises. Le facteur 30 correspond à des traces de programmation agentique, un scénario à contexte long et à forte densité de tokens qui tombe exactement dans la zone d’avantage architectural de Vera Rubin ; pour du chat court, de la génération d’images ou des embeddings par lots, le facteur ne serait pas le même. L’écart entre les annonces de saut générationnel et la livraison réelle est une vieille règle de ce secteur, déjà observée lors du passage de Hopper à Blackwell.

“Agentic AI workloads consume 15x more tokens than a simple chat request.”

Les charges de travail d’IA agentique consomment 15 fois plus de tokens qu’une simple requête de chat.

En élargissant un peu la perspective, les choses deviennent plus claires : Dell affiche déjà des tarifs d’inférence basés sur des serveurs Vera Rubin, et SpaceX prévoit d’envoyer l’an prochain des racks NVL72 en orbite pour tester du calcul IA orbital. Le matériel n’est pas encore déployé à grande échelle, mais les calculs qui l’entourent ont déjà été faits à plusieurs reprises. Ce qui permettra réellement de vérifier ce facteur 30, ce sont les chiffres que chaque exploitant obtiendra dans son propre data center, une fois la vérification indépendante effectuée.

Sources : blog technique officiel de NVIDIA, documentation du benchmark AgentX de SemiAnalysis, CocoLoop, statistiques d’usage d’OpenRouter ; le facteur de débit par mégawatt, la baisse du coût par token et la hausse de 40 % de la densité de déploiement des GPU ont été vérifiés à partir des chiffres officiels, le calcul du coût de l’électricité étant une estimation approximative de la rédaction.