微軟雲端與 AI 負責人 Scott Guthrie 於 10 月 12 日在官方部落格發文,宣布 Azure Maia 自研晶片家族自 2027 年起擴大到多吉瓦級部署,屆時 Maia 將成為微軟產品與服務的主要推論系統。同一篇文章也公布了第三代晶片 Maia 300,預計 2027 年開始量產部署。執行長納德拉當天也在社群平台轉發了這則消息。
"making Maia the primary inference system for Microsoft products and services"
(讓 Maia 成為微軟產品與服務的主要推論系統。)
Maia 300 的規格
微軟公布的單晶片參數如下:8 組 HBM4 堆疊,尖峰記憶體頻寬 18.0 TB/s,熱設計功耗 950 瓦,運算晶粒採用台積電 N2P 製程。晶片支援強化版 MXFP4 等低精度格式,用來壓低記憶體與頻寬的占用,並支撐更長的上下文。
整座機櫃配置 96 顆加速器,功耗 167 千瓦,HBM 總容量 27.6 TB,聚合頻寬 1.7 PB/s。加速器之間的互連針對張量平行做了最佳化,傳輸協定是以乙太網路為基礎的自訂方案。在架構上,微軟把晶片內建的 SRAM 當作由軟體管理的暫存區,減少對 HBM 的反覆讀寫,文章中有一句話概括了這個思路:
"Moving data efficiently, rather than raw compute power, is increasingly the bottleneck in large inference systems."
(在大型推論系統裡,瓶頸越來越常出現在資料搬運的效率,而非運算能力本身。)
效能數字全部來自微軟。相較於領先的 GPU 系統,每兆瓦多產出 40% 的 token;在滿配 96 顆加速器時,機櫃層級的 token 吞吐量最高是 Maia 200 的 7 倍。路透社報導時指出,微軟並未說明用來比較的是哪一套系統。
Maia 200 目前在跑什麼
上一代 Maia 200 已部署在美國、歐洲與澳洲,承接了 Microsoft Copilot 的正式環境流量,也供微軟自家的 MAI 模型團隊使用。微軟表示,在 Teams、Copilot 與 Cowork 的內建 AI 功能上,其每瓦 token 產出最高可達領先 GPU 設施的 1.7 倍。GitHub Copilot 與 Azure 的模型服務平台 Foundry 預計在年底前接入。上面執行的模型包括 OpenAI 的模型、MAI 自研模型,以及主流開源模型。
三代晶片連起來看
Maia 這條產品線走得並不順遂。第一代 Maia 100 於 2023 年 11 月在 Ignite 上亮相,此後多年主要在內部小範圍使用。Maia 200 今年 1 月發表,6 月納德拉提到時,仍只有兩座資料中心在使用,並計劃擴展到更多地點,包括海外。
今年 8 月,The Information 報導微軟正與台積電洽談 Maia 300 的產能,目標是 2027 年交付超過 30 萬顆,長期則希望拿到百萬顆以上。微軟當時並未證實數量,Azure Maia 總經理 Andrew Wall 只表示,外界流傳的數字無法反映這項專案的規模,公司預期 Maia 所支撐的需求要以吉瓦來計算。這次「多吉瓦」寫進官方部落格,算是把當時的說法落實成文字,但晶片顆數與資本支出依然沒有給出。
從 100 到 300,官方措辭第一次寫到「主要推論系統」這個層級。限定詞是推論,至於訓練用什麼晶片,這篇部落格隻字未提;Copilot 以外的 Azure 雲端客戶能不能租用 Maia 運算資源,文章裡也沒有說明。
微軟表示,將於 11 月在舊金山舉行的 Ignite 2026 上進一步介紹 Maia 的策略與技術細節。技術白皮書已經公開在 Azure 官網上,這些數字能否在第三方測試中重現,得等晶片真正上線之後才知道。
參考來源:微軟官方部落格、Azure Maia 300 技術白皮書、路透社、CocoLoop、Techzine、The Information;晶片與機櫃規格、每兆瓦與每瓦 token 的比較口徑及部署地區,均以微軟部落格為準核實。