Dell推出NVIDIA Vera Rubin伺服器,推論成本降至十分之一

十分之一。這是Dell和NVIDIA今天在Tech World大會上丟出的最硬數字。新一代伺服器Dell PowerEdge XE9812專為agentic AI推論設計,每個token的成本比現行Blackwell架構便宜90%。

這台機器搭載NVIDIA Vera Rubin NVL72——黃仁勳醞釀一年的下一代AI晶片平台。Vera是CPU、Rubin是GPU、NVL72是機櫃級整合。PowerEdge XE9812是首款採用Vera Rubin的量產伺服器。

Vera Rubin到底強在哪

黃仁勳在主舞台的原話:

「我們現在進入了有用AI的時代,這就是需求呈拋物線成長的原因,完全拋物線。」

為了證明這不是空談,他秀出一組數據:

  • Vera CPU:1.2 TB/s記憶體頻寬,agentic任務比x86處理器快50%
  • 資料庫查詢:Starburst、DuckDB跑出3倍速度
  • PowerEdge XE9880L / 9885L / 9882L 系列:採用HGX Rubin NVL8,單機櫃塞下144顆GPU,效能比HGX B200高5.5倍,全部100%直接液冷

光是144 GPU/機櫃這個密度——上一代NVL72是72顆——Rubin直接翻倍。搭配液冷解決熱密度,單機櫃算力是Blackwell時代的5倍以上。

推論成本砍到1/10這條得拆開看。一部分來自晶片本身的能效提升,另一部分來自Vera CPU與Rubin GPU的深度耦合——CPU不再是GPU的瓶頸,token吞吐才能拉到設計上限。

Michael Dell為2030年開出3兆美元清單

硬體是一回事,錢怎麼花是另一回事。Michael Dell在keynote上把帳算清了:

  • 全球AI基礎設施支出到2030年會達到3~4兆美元
  • token消費量同期會成長3,400%

他自己加了一句:

「變化的速度已經呈拋物線,而且沒有減緩。」

「拋物線」這個詞他和黃仁勳都用了,意思一樣——這條曲線還在加速往上拐,看不到要平的樣子。3~4兆美元是什麼概念?2024年全球資料中心資本支出大約在3000億美元規模。十倍。

Dell敢這麼算,是因為客戶名單已經在坐實:

  • Eli Lilly:在Dell的基礎設施上跑了15年,現在用來訓練AI大模型,LillyPod超算單叢集讀取頻寬接近2 TB/s,1000+顆GPU滿載
  • 三星:用來做晶片設計的研發
  • Honeywell:跑工業AI、數位雙生,押注中東油氣場景
  • Hudson River Trading:演算法交易

這四家不是PPT客戶。他們已經在用Dell地端方案跑生產任務,PowerEdge XE9812這次更新是給他們升級換代——不是從零開始拉一個客戶。

一個被忽略的細節:液冷已是標配

Dell這次發表的PowerEdge XE9880L、XE9885L、XE9882L全部是100%直接液冷。這件事的意義是——風冷的時代結束了。NVL8單機櫃144顆GPU、功率密度推到接近100kW這種量級,風冷根本壓不住。換句話說,企業要部署Vera Rubin,機房得先改造液冷。這是另一筆可見的資本支出,但Dell沒有展開講。

把這條線拉出來看,Dell今天的故事其實分兩段:

  • 明面:推論成本砍到1/10、token吞吐翻5倍
  • 暗線:要用上這套硬體,機房得先掏一大筆錢改液冷

第一段是銷售用的,第二段是CIO們今晚要算的帳。

參考來源:NVIDIA CEO Jensen Huang at Dell Technologies World: Demand Is Going Parabolic, Utterly Parabolic (NVIDIA Blog);CocoLoop;Dell Technologies World 2026: Enterprise AI Announcements This Week (Dell Blog)