10분의 1. Dell과 NVIDIA가 오늘 Tech World에서 던진 가장 강력한 숫자다. 신형 서버 Dell PowerEdge XE9812는 에이전틱 AI 추론용으로 설계되어 토큰당 비용을 현행 Blackwell 기반 시스템보다 90% 낮췄다.
이 머신은 NVIDIA Vera Rubin NVL72를 탑재했다. 젠슨 황 CEO가 1년 동안 준비한 차세대 AI 칩 플랫폼으로, Vera는 CPU, Rubin은 GPU, NVL72는 랙 규모 통합을 담당한다. PowerEdge XE9812는 Vera Rubin을 사용한 최초의 양산 서버다.
Vera Rubin의 진짜 강점
젠슨 황 CEO는 기조연설에서 이렇게 말했다.
"우리는 이제 유용한 AI 시대에 도달했다. 이것이 수요가 포물선(parabolic)으로 급증하는 이유다. 완전히 포물선이다."
그는 이를 뒷받침하는 데이터를 제시했다.
- Vera CPU: 1.2 TB/s 메모리 대역폭, 에이전틱 작업에서 x86 대비 50% 빠름
- 데이터베이스 쿼리: Starburst, DuckDB에서 3배 속도
- PowerEdge XE9880L / 9885L / 9882L 시리즈: HGX Rubin NVL8 탑재, 랙당 144개 GPU, HGX B200 대비 5.5배 성능, 모두 100% 직접 액체 냉각
랙당 144 GPU 밀도는 이전 세대 NVL72의 72개에서 두 배로 늘었다. 액체 냉각으로 열 밀도를 처리하며, 랙당 연산 성능은 Blackwell 시대의 5배 이상이다.
추론 비용 10분의 1은 칩 자체의 효율성 향상과 Vera CPU와 Rubin GPU의 긴밀한 결합 덕분이다. CPU가 GPU의 병목이 되지 않아 토큰 처리량이 설계 한계에 도달할 수 있다.
Michael Dell, 2030년 3조 달러 로드맵 제시
Michael Dell CEO는 재정 전망을 제시했다.
- 전 세계 AI 인프라 지출은 2030년까지 3~4조 달러에 도달
- 같은 기간 토큰 소비량은 3,400% 증가
그는 덧붙였다.
"변화의 속도는 포물선이 되었으며, 둔화되지 않고 있다."
그와 젠슨 황 모두 '포물선'이라는 단어를 사용했다. 곡선은 계속 가속화되고 있으며 정체될 기미가 보이지 않는다. 2024년 전 세계 데이터센터 자본 지출은 약 3,000억 달러였다. 그 10배가 3조 달러다.
Dell의 고객 명단은 이미 이 예측을 뒷받침한다.
- Eli Lilly: 15년 동안 Dell 인프라 사용, 현재 AI 대규모 모델 훈련에 활용. LillyPod 슈퍼컴퓨터는 약 2 TB/s 읽기 대역폭, 1,000개 이상의 GPU 탑재.
- Samsung: 반도체 설계 R&D에 Dell 사용.
- Honeywell: 산업 AI 및 디지털 트윈 실행, 중동 석유·가스 분야에 적용.
- Hudson River Trading: 알고리즘 트레이딩.
이들은 PPT상의 고객이 아니다. 이미 Dell 온프레미스 솔루션으로 프로덕션 작업을 실행 중이며, PowerEdge XE9812는 업그레이드 경로다.
간과된 세부 사항: 액체 냉각이 표준으로
이번에 발표된 PowerEdge XE9880L, XE9885L, XE9882L은 모두 100% 직접 액체 냉각 방식이다. 이는 공랭 시대의 종말을 의미한다. 랙당 144개 GPU, 전력 밀도가 100kW에 육박하는 수준에서는 공랭으로는 감당할 수 없다. Vera Rubin을 도입하려는 기업은 데이터센터를 액체 냉각으로 개조해야 하며, 이는 Dell이 자세히 설명하지 않은 추가 자본 지출이다.
Dell의 발표에는 두 가지 측면이 있다.
- 표면: 추론 비용 10분의 1, 토큰 처리량 5배
- 이면: 이 하드웨어를 사용하려면 데이터센터 액체 냉각 개조에 막대한 비용 필요
전자는 영업용이고, 후자는 CIO들이 오늘 밤 계산해야 할 숫자다.
출처: NVIDIA CEO Jensen Huang at Dell Technologies World: Demand Is Going Parabolic, Utterly Parabolic (NVIDIA Blog); CocoLoop; Dell Technologies World 2026: Enterprise AI Announcements This Week (Dell Blog)