NVIDIAは8月24日、Vera Rubin NVL72の初期テストデータを公開した。エージェント型のワークロードにおいて、メガワット当たりのスループットは前世代のGB300 NVL72の30倍に達し、トークン単価は約35分の1まで下がったという。数値には「結果はSemiAnalysisによる検証待ち」との注記が付いている。
テストにはSemiAnalysisのAgentXという負荷が使われた。これは実際のエージェント型コーディングの動作履歴から作られたもので、実験室で生成した合成リクエストではない。採点に使われたモデルはKimi K3、MiniMax M3、GLM5.3、Qwen3.5、DeepSeek V4 Proの5つで、いずれもオープンウェイトモデルであり、うち4つは中国系チームによるものだ。この顔ぶれ自体が示唆的で、新世代の推論ラックの実力を測る際、NVIDIAは開発者が実際に使っているオープンモデルを基準に選んでいる。
なぜ「メガワット当たり」で測るのか
従来の世代間比較では、ピーク演算性能やカード単体の性能が使われることが多かった。今回NVIDIAは分母を電力に置き換えた。
その理由はワークロードの構造にある。OpenRouterの利用統計によれば、エージェント型のリクエスト1件が消費するトークン量は通常のチャットリクエストの15倍にのぼる。エージェントはデータベースへの問い合わせ、資料の検索、サブエージェントの呼び出しをこなし、複数ラウンドの推論をまたいでどんどん長くなるコンテキストを引きずる必要がある。1タスク当たりのトークン消費量が一桁跳ね上がると、スケールを制約するのはGPUの台数よりも、変電設備が供給できるメガワット数であることが多い。
NVIDIAが示した縦軸の比較はこうだ。GB300 NVL72のDeepSeek V4 Proにおけるメガワット当たりスループットは、すでにHopperアーキテクチャの15倍だった。Vera Rubinはそこにさらに掛け算をしている。
内訳を見ると、30倍という数字は単一の要因から来ているわけではない。電力供給と冷却の技術であるDSX MaxLPSにより、同じメガワット予算の中でGPUを40%多く搭載できる。これはまず分母を薄める効果がある。NVLink 6はパケットレートを既存のイーサネット方式の10倍に引き上げ、レイテンシを3分の1に圧縮する。さらにその上に、ディスアグリゲーテッドサービング、分散KVキャッシュ、エキスパート並列といったハードウエアとソフトウエアが一体となった仕組みが重なる。それぞれの手段が独自の倍率を積み上げ、最終的な数字を作り出している。
ざっくり試算してみると
公式の数字をもとに、この倍率が実際にどれくらいのインパクトになるのかを大まかに試算してみる。
仮に100メガワット規模の推論クラスターがあり、電気料金を1キロワット時0.5元とすると、フル稼働で1年間運用した場合の電気代はおよそ4億4000万元になる。メガワット当たりのスループットが本当に30倍になるなら、同じ電気代で得られるトークン出力は30倍に増える。逆に言えば、同じ量のトークンを生成するのに必要な電気代は、従来の30分の1まで圧縮できる計算になる。トークン単価が35倍下がるとされている点については、30倍というスループット向上よりもやや大きく、その差はラック自体のエネルギー効率改善によるものであり、生産量の増加とは別の話だ。
こうしたざっくり試算には明らかな限界がある。実際のデータセンターは1年間フル稼働し続けるわけではなく、PUEや稼働率の低さ、複数モデルの混在運用によって倍率は下がるはずだ。ただ、それでもNVIDIAがこの指標を最も前面に押し出す理由は見えてくる。すでに電力割り当てを確保しながら、変電設備の増強を待つ列に並んでいるデータセンター事業者にとって、メガワット当たりの出力は総演算性能よりも「生産能力」という概念に近い。
検証結果が出るまで押さえておきたいこと
この数字は現時点ではあくまでメーカー側の自社測定によるものだ。SemiAnalysisによる審査結果はまだ出ておらず、NVIDIA自身もこれを初期段階の測定値だと位置づけている。
条件面も見ておく必要がある。30倍という数字はエージェント型コーディングの動作履歴に対応するもので、長いコンテキストとトークン密度の高さが特徴のシナリオであり、まさにVera Rubinのアーキテクチャが得意とする領域に当てはまる。短いチャットや画像生成、バッチ処理での埋め込みに変えれば、この倍率にはならないだろう。世代交代時の宣伝文句と実際の出荷後の性能との間にギャップが生じるのは、この業界でよくあるパターンで、HopperからBlackwellへの移行時にも同じことが起きている。
"Agentic AI workloads consume 15x more tokens than a simple chat request."
エージェント型AIの処理は、単純なチャットリクエストの15倍のトークンを消費する、という趣旨の発言だ。
もう少し時間軸を広げて見ると状況がはっきりする。Dellはすでに Vera Rubinサーバーを使った推論の価格を提示し始めており、SpaceXは来年NVL72ラックを軌道上に送り込み、軌道上でのAI計算のテストを計画している。ハードウエア自体はまだ広く出回っていないが、それを取り巻く試算はすでに何巡もされている。30倍という数字を実際に裏付けるのは、第三者による検証を経たあと、各社が自社のデータセンターで実際に出す数字だ。
参考資料:NVIDIA公式テックブログ、SemiAnalysisによるAgentXベンチマーク解説、CocoLoop、OpenRouterの利用統計。メガワット当たりのスループット倍率、トークン単価の下落幅、GPU搭載密度40%増はいずれも公式発表に基づいて確認したもので、電気代の試算は編集部による概算である。