微软发布 Maia 300,自研芯片明年起扛推理

微软云与 AI 负责人 Scott Guthrie 10 月 12 日在官方博客发文,宣布 Azure Maia 自研芯片家族从 2027 年起扩展到多吉瓦级部署,届时 Maia 将成为微软产品和服务的主要推理系统。同一篇文章公布了第三代芯片 Maia 300,计划 2027 年开始生产部署。CEO 纳德拉当天也在社交平台转发了这条消息。

“making Maia the primary inference system for Microsoft products and services” (让 Maia 成为微软产品和服务的主要推理系统。)

Maia 300 的规格

微软公布的单芯片参数:8 个 HBM4 堆栈,峰值内存带宽 18.0 TB/s,热设计功耗 950 瓦,计算芯粒用台积电 N2P 工艺。芯片支持增强版 MXFP4 等低精度格式,用来压内存和带宽占用、撑更长的上下文。

整机柜是 96 颗加速器,功耗 167 千瓦,HBM 总容量 27.6 TB,聚合带宽 1.7 PB/s。加速器之间的互连针对张量并行做了优化,传输协议是基于以太网的自定义方案。架构上,微软把片上 SRAM 当软件管理的暂存区,减少对 HBM 的反复读写,文章里有一句概括:

“Moving data efficiently, rather than raw compute power, is increasingly the bottleneck in large inference systems.” (在大型推理系统里,瓶颈越来越多出在数据搬运效率上,而非算力本身。)

性能数字全部来自微软:相比领先的 GPU 系统,每兆瓦多产出 40% 的 token;满配 96 颗加速器时,机架级 token 吞吐最高是 Maia 200 的 7 倍。路透社报道时指出,微软没有说明拿来比较的是哪套系统。

Maia 200 现在跑什么

上一代 Maia 200 已经部署在美国、欧洲和澳大利亚,承接了 Microsoft Copilot 的生产流量,也给微软自己的 MAI 模型团队用。微软称,在 Teams、Copilot 和 Cowork 的内置 AI 功能上,它的每瓦 token 产出最高是领先 GPU 设施的 1.7 倍。GitHub Copilot 和 Azure 的模型服务平台 Foundry 计划年底前接入。上面跑的模型包括 OpenAI 的模型、MAI 自研模型和主流开源模型。

三代芯片连起来看

Maia 这条线走得并不顺。第一代 Maia 100 在 2023 年 11 月的 Ignite 上亮相,此后多年主要在内部小范围使用。Maia 200 今年 1 月发布,6 月纳德拉提到时,还只有两座数据中心在用,计划往更多地方扩,包括海外。

今年 8 月,The Information 报道微软在和台积电谈 Maia 300 的产能,目标是 2027 年交付超过 30 万颗,更长期想拿到百万颗以上。微软当时没有确认数量,Azure Maia 总经理 Andrew Wall 只说外界数字没反映项目规模,公司预计 Maia 支撑的需求要按吉瓦计。这次”多吉瓦”写进官方博客,算是把当时的说法落到了纸面,但芯片颗数和资本开支仍然没给。

从 100 到 300,官方措辞第一次写到”主要推理系统”这一级。限定词是推理,训练用什么芯片,这篇博客一个字没提;Copilot 之外的 Azure 云客户能不能租到 Maia 算力,文章也没有说。

微软说会在 11 月旧金山的 Ignite 2026 上进一步介绍 Maia 的战略和技术细节。技术白皮书已经挂在 Azure 官网,数字能不能在第三方测试里复现,要等芯片真正上线之后。

参考来源:微软官方博客、Azure Maia 300 技术白皮书、路透社、CocoLoop、Techzine、The Information;微软博客核验芯片与机柜规格、每兆瓦与每瓦 token 对比口径及部署地区。