Ngày 12/10, Scott Guthrie, phụ trách mảng đám mây và AI của Microsoft, đăng bài trên blog chính thức thông báo dòng chip tự phát triển Azure Maia sẽ mở rộng sang triển khai quy mô nhiều gigawatt từ năm 2027, khi đó Maia sẽ trở thành hệ thống suy luận chính cho các sản phẩm và dịch vụ của Microsoft. Bài viết cũng công bố chip thế hệ thứ ba Maia 300, dự kiến bắt đầu sản xuất và triển khai vào năm 2027. CEO Satya Nadella cùng ngày cũng đã chia sẻ lại thông tin này trên mạng xã hội.
“making Maia the primary inference system for Microsoft products and services”
(Biến Maia thành hệ thống suy luận chính cho các sản phẩm và dịch vụ của Microsoft.)
Thông số kỹ thuật của Maia 300
Theo thông số Microsoft công bố cho mỗi chip: 8 ngăn xếp HBM4, băng thông bộ nhớ đỉnh 18,0 TB/s, công suất thiết kế nhiệt 950 W, chiplet tính toán dùng tiến trình N2P của TSMC. Chip hỗ trợ các định dạng độ chính xác thấp như MXFP4 nâng cao, nhằm giảm mức chiếm dụng bộ nhớ và băng thông, đồng thời hỗ trợ ngữ cảnh dài hơn.
Một tủ rack hoàn chỉnh gồm 96 bộ tăng tốc, công suất 167 kW, tổng dung lượng HBM 27,6 TB và băng thông tổng hợp 1,7 PB/s. Kết nối giữa các bộ tăng tốc được tối ưu cho song song hóa tensor, giao thức truyền dẫn là giải pháp tùy biến dựa trên Ethernet. Về kiến trúc, Microsoft dùng SRAM trên chip làm vùng đệm do phần mềm quản lý để giảm số lần đọc ghi lặp lại vào HBM. Bài viết có một câu tóm tắt ý này:
“Moving data efficiently, rather than raw compute power, is increasingly the bottleneck in large inference systems.”
(Trong các hệ thống suy luận lớn, nút thắt ngày càng nằm ở hiệu quả di chuyển dữ liệu chứ không phải sức mạnh tính toán thuần túy.)
Toàn bộ số liệu hiệu năng đều do Microsoft đưa ra: so với các hệ thống GPU hàng đầu, mỗi megawatt tạo ra nhiều hơn 40% token; khi lắp đủ 96 bộ tăng tốc, thông lượng token ở cấp rack cao gấp tối đa 7 lần Maia 200. Khi đưa tin, Reuters lưu ý rằng Microsoft không nói rõ hệ thống nào được dùng để so sánh.
Maia 200 hiện đang chạy những gì
Maia 200 thế hệ trước đã được triển khai tại Mỹ, châu Âu và Úc, đảm nhận lưu lượng sản xuất của Microsoft Copilot và cũng phục vụ nhóm mô hình MAI do chính Microsoft phát triển. Theo Microsoft, với các tính năng AI tích hợp trong Teams, Copilot và Cowork, sản lượng token trên mỗi watt của chip này cao gấp tối đa 1,7 lần so với các cơ sở GPU hàng đầu. GitHub Copilot và Foundry, nền tảng dịch vụ mô hình của Azure, dự kiến được kết nối trước cuối năm. Các mô hình chạy trên đó gồm mô hình của OpenAI, mô hình MAI tự phát triển và các mô hình mã nguồn mở phổ biến.
Nhìn ba thế hệ chip trong một mạch
Con đường của Maia không hề suôn sẻ. Thế hệ đầu Maia 100 ra mắt tại Ignite tháng 11/2023, sau đó nhiều năm chủ yếu chỉ dùng nội bộ ở quy mô nhỏ. Maia 200 được công bố hồi tháng 1 năm nay; đến tháng 6, khi ông Nadella nhắc tới, mới chỉ có hai trung tâm dữ liệu sử dụng, với kế hoạch mở rộng ra nhiều nơi hơn, trong đó có cả nước ngoài.
Hồi tháng 8, The Information đưa tin Microsoft đang đàm phán với TSMC về sản lượng Maia 300, đặt mục tiêu giao hơn 300.000 chip trong năm 2027 và về dài hạn muốn đạt trên một triệu chip. Khi đó Microsoft không xác nhận con số này; Andrew Wall, tổng giám đốc Azure Maia, chỉ nói các con số bên ngoài không phản ánh quy mô của dự án, và công ty dự kiến nhu cầu do Maia đáp ứng sẽ được tính bằng gigawatt. Việc cụm từ “nhiều gigawatt” nay được ghi vào blog chính thức có thể coi là đưa phát biểu hôm đó lên văn bản, nhưng số lượng chip và chi tiêu vốn vẫn chưa được công bố.
Từ 100 đến 300, đây là lần đầu cách diễn đạt chính thức đạt đến mức “hệ thống suy luận chính”. Từ giới hạn ở đây là suy luận: chip nào dùng cho huấn luyện thì bài blog không nhắc một chữ; khách hàng đám mây Azure ngoài Copilot có thuê được sức mạnh tính toán Maia hay không thì bài viết cũng không nói.
Microsoft cho biết sẽ giới thiệu thêm về chiến lược và chi tiết kỹ thuật của Maia tại Ignite 2026 ở San Francisco vào tháng 11. Sách trắng kỹ thuật đã được đăng trên trang Azure; các con số có thể tái hiện trong thử nghiệm của bên thứ ba hay không thì phải chờ đến khi chip thực sự đi vào hoạt động.
Nguồn tham khảo: blog chính thức của Microsoft, sách trắng kỹ thuật Azure Maia 300, Reuters, CocoLoop, Techzine, The Information; blog của Microsoft được dùng để đối chiếu thông số chip và rack, cách tính so sánh token trên mỗi megawatt và mỗi watt, cùng các khu vực triển khai.