Dell ra mắt máy chủ NVIDIA Vera Rubin, giảm chi phí suy luận xuống 1/10

Một phần mười. Đó là con số cứng nhất mà Dell và NVIDIA đưa ra hôm nay tại Tech World. Máy chủ mới Dell PowerEdge XE9812 được thiết kế cho suy luận AI tác nhân, với chi phí mỗi token thấp hơn 90% so với hệ thống Blackwell hiện tại.

Máy này sử dụng NVIDIA Vera Rubin NVL72—nền tảng chip AI thế hệ tiếp theo mà Jensen Huang đã ấp ủ suốt một năm. Vera là CPU, Rubin là GPU, NVL72 là tích hợp cấp rack. PowerEdge XE9812 là máy chủ sản xuất đầu tiên sử dụng Vera Rubin.

Vera Rubin mạnh ở điểm nào

Jensen Huang trên sân khấu chính:

"Chúng ta đã đến kỷ nguyên AI hữu ích, đó là lý do nhu cầu đang tăng theo cấp số nhân, hoàn toàn theo cấp số nhân."

Để chứng minh, ông đưa ra số liệu:

  • Vera CPU: băng thông bộ nhớ 1,2 TB/s, nhanh hơn 50% so với x86 trong các tác vụ tác nhân
  • Truy vấn cơ sở dữ liệu: nhanh gấp 3 lần trên Starburst và DuckDB
  • Dòng PowerEdge XE9880L / 9885L / 9882L: sử dụng HGX Rubin NVL8, 144 GPU mỗi rack, hiệu suất gấp 5,5 lần HGX B200, 100% làm mát bằng chất lỏng trực tiếp

Mật độ 144 GPU/rack gấp đôi NVL72 thế hệ trước (72 GPU). Kết hợp làm mát bằng chất lỏng, mật độ nhiệt được giải quyết, sức mạnh tính toán mỗi rack gấp 5 lần thời Blackwell.

Giảm chi phí 90% đến từ hiệu suất chip và sự kết hợp chặt chẽ giữa Vera CPU và Rubin GPU—CPU không còn là nút thắt cổ chai, thông lượng token đạt giới hạn thiết kế.

Michael Dell vạch lộ trình 3 nghìn tỷ USD đến 2030

Michael Dell trình bày dự báo tài chính:

  • Chi tiêu hạ tầng AI toàn cầu sẽ đạt 3–4 nghìn tỷ USD vào năm 2030
  • Tiêu thụ token sẽ tăng 3.400% trong cùng kỳ

Ông nói thêm:

"Tốc độ thay đổi đã trở nên theo cấp số nhân và không hề chậm lại."

Cả ông và Huang đều dùng từ "parabolic"—đường cong đang tăng tốc, chưa có dấu hiệu chững lại. Năm 2024, chi tiêu vốn trung tâm dữ liệu toàn cầu khoảng 300 tỷ USD. Gấp mười lần là 3 nghìn tỷ USD.

Danh sách khách hàng của Dell đã củng cố dự báo này:

  • Eli Lilly: 15 năm sử dụng hạ tầng Dell, nay dùng để huấn luyện mô hình AI lớn; siêu máy tính LillyPod có băng thông đọc gần 2 TB/s với hơn 1.000 GPU
  • Samsung: Dùng Dell cho R&D thiết kế chip
  • Honeywell: Chạy AI công nghiệp và bản sao số, nhắm đến lĩnh vực dầu khí Trung Đông
  • Hudson River Trading: Giao dịch thuật toán

Đây không phải khách hàng trên slide. Họ đang chạy khối lượng công việc sản xuất trên giải pháp tại chỗ của Dell, và PowerEdge XE9812 là đường nâng cấp—không phải khách hàng mới.

Chi tiết bị bỏ qua: làm mát bằng chất lỏng đã trở thành tiêu chuẩn

Tất cả các mẫu PowerEdge XE9880L, XE9885L, XE9882L mới đều làm mát 100% bằng chất lỏng trực tiếp. Điều này báo hiệu sự kết thúc của kỷ nguyên làm mát bằng không khí. Với 144 GPU mỗi rack và mật độ năng lượng gần 100 kW, làm mát bằng không khí không thể đáp ứng. Các doanh nghiệp muốn triển khai Vera Rubin phải cải tạo trung tâm dữ liệu để làm mát bằng chất lỏng—một khoản chi vốn đáng kể mà Dell không đề cập chi tiết.

Câu chuyện của Dell hôm nay có hai lớp:

  • Bề mặt: Chi phí suy luận giảm 90%, thông lượng token tăng 5 lần
  • Ẩn: Để sử dụng phần cứng này, trung tâm dữ liệu phải chi một khoản lớn để nâng cấp làm mát chất lỏng

Phần đầu dành cho bán hàng; phần thứ hai là thứ các CIO sẽ tính toán tối nay.

Nguồn: NVIDIA CEO Jensen Huang at Dell Technologies World: Demand Is Going Parabolic, Utterly Parabolic (NVIDIA Blog); CocoLoop; Dell Technologies World 2026: Enterprise AI Announcements This Week (Dell Blog)