AMD가 올해 MI400 시리즈 AI 가속기를 출시한다. 플래그십 모델인 MI455X는 432GB HBM4 메모리, 19.6TB/s 메모리 대역폭, FP4 정밀도에서 40 PFLOPS의 연산 성능을 제공한다.
스펙만 놓고 보면 확실히 강력하다.
하지만 문제는 AMD가 "하드웨어 사양이 엔비디아보다 낫다"는 이야기를 몇 년째 해오고 있다는 점이다.
MI400의 숫자
먼저 스펙을 비교해보자:
| 지표 | AMD MI400 (MI455X) | AMD MI350 | NVIDIA Vera Rubin (2026년 하반기) |
|---|---|---|---|
| 메모리 | 432GB HBM4 | 288GB HBM3E | 288GB HBM4 |
| 메모리 대역폭 | 19.6 TB/s | 8 TB/s | 13 TB/s |
| FP4 연산 성능 | 40 PFLOPS | - | - |
| FP8 연산 성능 | 20 PFLOPS | 10 PFLOPS | - |
| 출시 시기 | 2026년 | 이미 출시 | 2026년 하반기 |
메모리 용량은 MI350보다 50% 많고, 대역폭은 두 배로 늘었다. 곧 등장할 NVIDIA Vera Rubin과 비교해 AMD는 메모리 용량 1.5배, 대역폭 1.5배 우위를 주장한다.
이 비교 데이터가 사실이라면, AMD는 이번에 하드웨어 사양에서 엔비디아를 앞지른 셈이다.
아키텍처: CDNA 5 + Helios 랙 솔루션
MI400 시리즈는 CDNA 5 아키텍처를 기반으로 하며, Helios라는 랙 수준 솔루션과 함께 제공된다. 인터커넥트는 UALoE(Ultra Accelerator Link over Ethernet)를 사용한다. AMD는 개방형 표준을 추진하며 엔비디아의 NVLink에 의존하지 않는 클러스터 인터커넥트 솔루션을 구축하려 하고 있다.
각 GPU의 스케일아웃 대역폭은 300GB/s이며, UAL 및 UEC(Ultra Ethernet Consortium) 표준을 기반으로 한다.
제품 라인은 두 가지 방향으로 나뉜다:
- MI455X: 트레이닝 + 추론, 플래그십 버전
- MI430X: HPC 시나리오 변형
분석가의 계산
S&P Global Market Intelligence의 분석가들은 AMD가 2026년에 약 258,000개의 MI400 시리즈 칩을 출하할 수 있으며, 평균 판매 가격은 약 30,926달러로 추정한다:
258,000 × $30,926 ≈ 72억 달러
이는 AMD 데이터센터 사업 수익의 약 25%에 해당한다.
적지 않은 금액이지만, 엔비디아의 데이터센터 사업은 2025년에 이미 1,000억 달러를 넘어섰다. 시장은 균등하게 나뉘지 않는다. 선착순이며 생태계에 의해 고착화된다.
CUDA: AMD가 넘지 못하는 벽
AMD의 하드웨어 사양이 때로 더 나아 보이는데도 왜 엔비디아가 시장 지배력을 유지할 수 있을까?
정답은 CUDA다.
CUDA는 단순한 프로그래밍 프레임워크가 아니다. 그것은:
- 10년 넘게 축적된 튜토리얼, Stack Overflow 답변, 오픈소스 프로젝트
- PyTorch, TensorFlow, JAX가 기본적으로 CUDA 위에 구축됨
- 거의 모든 AI 연구팀의 툴체인이 CUDA 기반
- 엔비디아의 소프트웨어 생태계에 대한 엔지니어링 투자는 AMD ROCm을 훨씬 상회
AMD로 전환하는 비용은 단순히 하드웨어를 바꾸는 것이 아니다. 코드를 다시 작성하고, 벤치마크를 다시 실행하고, 안정성을 재검증해야 한다. 수백억 개의 파라미터 모델을 훈련하는 팀에게 이 전환 비용은 거의 감당할 수 없는 수준이다.
ROCm(AMD의 GPU 컴퓨팅 플랫폼)은 최근 2년 동안 크게 발전했으며, PyTorch 지원은 상당히 완성도가 높아졌다. 그러나 추론 최적화, 연산자 라이브러리, 디버깅 도구 같은 세부 사항에서는 CUDA의 성숙도에 아직 미치지 못한다.
칩은 하드웨어의 전장이지만, AI 훈련 비즈니스는 소프트웨어 생태계에서 결정된다.
AMD가 이긴 것과 이기지 못한 것
AMD는 AI 칩 분야에서 더 이상 간신히 따라잡는 단계가 아니라 진정한 경쟁 상태에 진입했다. MI300X는 2024년 AMD의 데이터센터 사업을 거의 제로에서 수십억 달러로 끌어올렸고, MI400은 그 길의 연장선이다.
AMD가 이긴 것:
- 메모리 및 대역폭 사양에서 경쟁력 확보
- 개방형 인터커넥트 표준으로 클라우드 제공업체에 락인 해제 옵션 제공
- 실제 대형 고객 확보(Microsoft Azure, Meta 등 AMD 사용)
아직 이기지 못한 것:
- 소프트웨어 생태계의 깊이
- 대규모 모델 훈련의 주류 툴체인 기본 선택
- CUDA 해자
258,000개 vs 엔비디아의 잠재적 수백만 개 — 이 격차는 칩 성능이 아니라 역사적 축적에 의해 결정된다.
단기적으로 AMD MI400은 신규 데이터센터나 레거시 부담이 없는 클라우드 제공업체에게 진지하게 고려할 만한 옵션이다. 하지만 엔비디아의 아성을 흔들기에는 한 세대의 하드웨어 사양 우위만으로는 부족하다.
아이러니한 점은 AMD가 이번에는 서류상으로 이겼다는 것이다. 하지만 AI 시장은 결코 서류상으로만 결정되지 않는다.
출처: CocoLoop, AMD confirms Instinct MI400 series AI GPUs drop in 2026, next-gen Instinct MI500 in 2027 (Tweaktown); AMD's next-generation AI chips set to power 2026 data center growth (S&P Global Market Intelligence); NVIDIA vs AMD 2026: AI Chip Showdown (IBTimes Australia); AMD's next-gen Instinct MI400 GPU confirmed: rocks 432GB of HBM4 at 19.6TB/sec (Tweaktown)