微軟完成 2.8T 參數基座 MAI-Base-2 預訓練

微軟 AI 在 10 月 15 日公布了新一代基礎模型 MAI-Base-2 的預訓練細節。這是一個混合專家(MoE)模型,總參數 2.8 兆、啟用參數 800 億,預訓練已經完成,目前正在進行後訓練。6 月發布的 MAI-Thinking-1 採用的是上一代 MAI-Base-1。

微軟的主要說法有兩點。一是 "MAI-Base-2 outperforms every open-weight model we tested on our held-out evaluations"(在內部保留評測上,MAI-Base-2 超越了所有測試過的開放權重模型)。二是效率:與微軟認為最強的開源基座 DeepSeek-V4-Pro-Base 相比,達到同等水準所需的預訓練算力少 4.2 到 12.3 倍,比自家的 MAI-Base-1 則少 6.3 到 12.7 倍,省下的算力用來訓練更大的模型。參與對照的還有 Qwen3.8 的 2.4T-A95B 版本。

這些評測使用的是微軟自己的保留集,題目和逐項分數並未公開,外界目前無法重現。

資料與訓練

微軟在部落格中明確寫道,訓練資料全部由團隊自行處理,"does not involve distillation from other models"(不涉及從其他模型蒸餾)。訓練混合資料共 50 兆 token,以獨特 token 計算,語料比 MAI-Base-1 多約 36%。視覺資料是原生加入的,獨特視覺 token 有 4.5 兆,占訓練混合資料的 18%。

硬體方面使用 1 萬 6000 張 GB200,於 2026 年 8 月到 9 月連續運轉 38 天。平均 MFU(模型算力使用率)為 21%,有效訓練時間占比為 89%。工程上的改動集中在 MoE 層與最佳化器:MoE 層的 MFU 從 24% 提升到 35%;Muon 最佳化器經過分片與通訊最佳化,單步開銷壓到迭代時間的 2.1%,約 165 毫秒;訓練穩定性則靠啟用梯度裁剪(activation gradient clipping)維持,微軟表示它同時也成了排查訓練資料問題的診斷工具。

在方法上,團隊以一套 scaling ladder 在小規模下評估模型改動,並提出 source scaling,確保小型實驗的結論能夠遷移到大規模;學習率、權重衰減與 dropout 的縮放規律也重新推導了一遍。

粗略算一筆帳

部落格給出的數字,足以讓人自己驗算一遍。GB200 的 BF16 理論峰值依部落格所寫的 2.5 PFLOPS 計算,1 萬 6000 張、21% 使用率,每秒有效算力約為 8.4×10^18 次浮點運算;38 天乘上 89% 的有效時間,約 292 萬秒。兩者相乘,總訓練算力粗估約為 2.5×10^25 FLOPs。

再用常見的經驗公式交叉驗證:訓練算力約等於 6 × 啟用參數 × 訓練 token 數,即 6 × 800 億 × 50 兆,約 2.4×10^25。兩種算法落在同一量級,差距在 5% 以內,顯示微軟公布的 MFU、時長與資料量彼此對得上。換算成 GPU 小時,約為 1460 萬小時。

就已公開訓練數字的模型來看,這個規模名列前茅。比較基準還缺一塊:微軟沒有說明 DeepSeek-V4-Pro-Base 的算力如何估算,「4 到 12 倍」的基準如何選取,部落格也沒有展開,目前只能以微軟自己的口徑為準。

尚未公布的部分

MAI-Base-2 的後訓練結果要等完成後才會公布。微軟沒有說是否會開放權重,也沒有說會以什麼產品型態上線,是整合進 Copilot,還是放到 Foundry 供企業呼叫,目前都看不出來。

部落格最後提到,MAI-Base-3 已經在籌備中。從 MAI-Base-1 到 2,微軟把語料擴增了三成多、參數推到 2.8 兆,同時公開了 MFU 和 GPU 小時這類多數實驗室不願披露的數字,這樣的透明度在前沿實驗室中相當少見。

參考來源:微軟 AI 官方部落格、CocoLoop;已核對參數規模、訓練 token、GPU 數量與 MFU 口徑,訓練總算力為本站依公開數字粗估。