Microsoft 클라우드·AI 부문을 이끄는 Scott Guthrie는 10월 12일 공식 블로그에 글을 올려, 자체 개발 칩 Azure Maia 제품군을 2027년부터 멀티 기가와트급 배치로 확대하겠다고 밝혔다. 그 시점에는 Maia가 Microsoft 제품과 서비스의 주력 추론 시스템이 된다는 것이다. 같은 글에서 3세대 칩 Maia 300도 공개했으며, 2027년부터 양산 배치에 들어갈 계획이다. 사티아 나델라 CEO도 같은 날 소셜 미디어에서 이 소식을 공유했다.
"making Maia the primary inference system for Microsoft products and services"
(Maia를 Microsoft 제품과 서비스의 주력 추론 시스템으로 만든다.)
Maia 300 사양
Microsoft가 공개한 칩 단위 사양은 HBM4 스택 8개, 최대 메모리 대역폭 18.0TB/s, 열설계전력 950W이며, 컴퓨트 칩렛에는 TSMC의 N2P 공정을 쓴다. 강화된 MXFP4 등 저정밀 포맷을 지원해 메모리와 대역폭 점유를 줄이고 더 긴 컨텍스트를 감당하도록 했다.
랙 한 대에는 가속기 96개가 들어가며 전력 소비는 167kW, HBM 총용량은 27.6TB, 집계 대역폭은 1.7PB/s다. 가속기 간 인터커넥트는 텐서 병렬 처리에 맞춰 최적화했고, 전송 프로토콜은 이더넷 기반의 자체 방식이다. 아키텍처 측면에서는 온칩 SRAM을 소프트웨어가 관리하는 스크래치패드로 활용해 HBM에 대한 반복적인 읽기·쓰기를 줄였다. 글에는 이런 접근을 요약한 문장이 있다.
"Moving data efficiently, rather than raw compute power, is increasingly the bottleneck in large inference systems."
(대규모 추론 시스템에서는 연산 성능 자체보다 데이터를 얼마나 효율적으로 옮기느냐가 갈수록 병목이 되고 있다.)
성능 수치는 모두 Microsoft가 제시한 것이다. 선도적인 GPU 시스템과 비교해 메가와트당 토큰 생산량이 40% 많고, 가속기 96개를 모두 채우면 랙 단위 토큰 처리량이 Maia 200의 최대 7배라고 한다. 로이터는 보도에서 Microsoft가 비교 대상 시스템을 밝히지 않았다고 지적했다.
지금 Maia 200이 맡고 있는 일
이전 세대인 Maia 200은 이미 미국, 유럽, 호주에 배치되어 Microsoft Copilot의 실서비스 트래픽을 처리하고 있고, Microsoft 자체 MAI 모델 팀도 사용한다. Microsoft는 Teams, Copilot, Cowork에 내장된 AI 기능에서 와트당 토큰 생산량이 선도적인 GPU 시설의 최대 1.7배라고 밝혔다. GitHub Copilot과 Azure의 모델 서비스 플랫폼 Foundry는 연말 전에 연결할 예정이다. 그 위에서 돌아가는 모델에는 OpenAI 모델, MAI 자체 모델, 주요 오픈소스 모델이 포함된다.
세 세대를 이어서 보면
Maia 프로젝트는 순탄하지만은 않았다. 1세대 Maia 100은 2023년 11월 Ignite에서 공개됐지만, 이후 수년간 주로 사내 소규모 용도로만 쓰였다. Maia 200은 올해 1월 발표됐고, 6월 나델라가 언급했을 때는 데이터센터 두 곳에서만 쓰이고 있었으며 해외를 포함해 더 많은 곳으로 넓힐 계획이었다.
올해 8월 The Information은 Microsoft가 TSMC와 Maia 300 생산 물량을 협의 중이며, 2027년 30만 개 이상을 인도받고 장기적으로는 100만 개 이상을 확보하는 것이 목표라고 보도했다. Microsoft는 당시 수량을 확인해 주지 않았다. Azure Maia 총괄 Andrew Wall은 외부에 나온 숫자가 프로젝트 규모를 반영하지 못하며, Maia가 뒷받침할 수요는 기가와트 단위로 봐야 한다고 회사가 예상한다고만 말했다. 이번에 공식 블로그에 '멀티 기가와트'가 명시되면서 당시 발언이 문서로 확인된 셈이지만, 칩 수량과 설비 투자 규모는 여전히 공개되지 않았다.
100에서 300에 이르기까지, 공식 표현이 '주력 추론 시스템' 수준까지 올라간 것은 이번이 처음이다. 다만 한정어는 추론이다. 학습에 어떤 칩을 쓰는지에 대해서는 블로그에 한 글자도 없다. Copilot 외의 Azure 클라우드 고객이 Maia 연산 자원을 빌릴 수 있는지도 글에는 나와 있지 않다.
Microsoft는 11월 샌프란시스코에서 열리는 Ignite 2026에서 Maia의 전략과 기술 세부 사항을 더 설명하겠다고 밝혔다. 기술 백서는 이미 Azure 공식 웹사이트에 올라와 있으며, 수치가 제3자 테스트에서 재현될지는 칩이 실제로 가동된 뒤에야 확인할 수 있다.
참고 출처: Microsoft 공식 블로그, Azure Maia 300 기술 백서, 로이터, CocoLoop, Techzine, The Information. 칩과 랙 사양, 메가와트당·와트당 토큰 비교 기준, 배치 지역은 Microsoft 블로그로 확인했다.