Scott Guthrie, pemimpin bisnis cloud dan AI Microsoft, menulis di blog resmi perusahaan pada 12 Oktober bahwa keluarga chip buatan sendiri Azure Maia akan diperluas ke penerapan multi-gigawatt mulai 2027. Pada saat itu Maia akan menjadi sistem inferensi utama untuk produk dan layanan Microsoft. Tulisan yang sama juga memperkenalkan chip generasi ketiga, Maia 300, yang dijadwalkan masuk penerapan produksi pada 2027. CEO Satya Nadella turut membagikan kabar ini di media sosial pada hari yang sama.
"making Maia the primary inference system for Microsoft products and services"
(menjadikan Maia sistem inferensi utama untuk produk dan layanan Microsoft.)
Spesifikasi Maia 300
Parameter per chip yang diumumkan Microsoft: 8 tumpukan HBM4, bandwidth memori puncak 18,0 TB/s, daya desain termal 950 watt, dan chiplet komputasi yang dibuat dengan proses N2P milik TSMC. Chip ini mendukung format presisi rendah seperti MXFP4 versi yang ditingkatkan, untuk menekan penggunaan memori dan bandwidth serta mendukung konteks yang lebih panjang.
Satu rak penuh berisi 96 akselerator dengan konsumsi daya 167 kilowatt, total kapasitas HBM 27,6 TB, dan bandwidth agregat 1,7 PB/s. Interkoneksi antarakselerator dioptimalkan untuk paralelisme tensor, dengan protokol transmisi kustom berbasis Ethernet. Dari sisi arsitektur, Microsoft memperlakukan SRAM on-chip sebagai ruang sementara yang dikelola perangkat lunak untuk mengurangi baca-tulis berulang ke HBM. Satu kalimat dalam tulisan itu merangkum pemikirannya:
"Moving data efficiently, rather than raw compute power, is increasingly the bottleneck in large inference systems."
(Dalam sistem inferensi berskala besar, hambatan kian sering terletak pada efisiensi pemindahan data, bukan pada daya komputasi itu sendiri.)
Seluruh angka performa berasal dari Microsoft. Dibandingkan sistem GPU terkemuka, perusahaan mengklaim token per megawatt 40% lebih banyak, dan dengan 96 akselerator terpasang penuh, throughput token tingkat rak mencapai hingga 7 kali lipat Maia 200. Reuters mencatat dalam liputannya bahwa Microsoft tidak menyebutkan sistem mana yang menjadi pembanding.
Apa yang dijalankan Maia 200 saat ini
Generasi sebelumnya, Maia 200, sudah diterapkan di Amerika Serikat, Eropa, dan Australia. Chip ini menangani trafik produksi Microsoft Copilot dan juga dipakai tim model MAI milik Microsoft sendiri. Microsoft menyatakan fitur AI bawaan di Teams, Copilot, dan Cowork menghasilkan token per watt hingga 1,7 kali lipat dibandingkan fasilitas GPU terkemuka. GitHub Copilot dan Foundry, platform layanan model Azure, dijadwalkan tersambung sebelum akhir tahun. Model yang berjalan di atasnya mencakup model OpenAI, model MAI buatan sendiri, dan model sumber terbuka arus utama.
Tiga generasi dalam satu rangkaian
Perjalanan lini Maia tidak mulus. Maia 100 generasi pertama muncul di Ignite pada November 2023, lalu selama bertahun-tahun terutama dipakai dalam skala kecil di internal. Maia 200 diumumkan Januari tahun ini, dan ketika Nadella menyinggungnya pada Juni, baru dua pusat data yang menggunakannya, dengan rencana diperluas ke lebih banyak lokasi, termasuk di luar negeri.
Pada Agustus lalu, The Information melaporkan bahwa Microsoft sedang bernegosiasi dengan TSMC soal kapasitas produksi Maia 300, dengan target pengiriman lebih dari 300.000 chip pada 2027 dan, dalam jangka lebih panjang, lebih dari satu juta chip. Saat itu Microsoft tidak mengonfirmasi jumlahnya; Andrew Wall, general manager Azure Maia, hanya mengatakan bahwa angka-angka dari luar tidak mencerminkan skala proyek dan perusahaan memperkirakan permintaan yang didukung Maia akan dihitung dalam gigawatt. Kini istilah 'multi-gigawatt' tertulis di blog resmi, sehingga pernyataan itu terkonfirmasi secara tertulis, tetapi jumlah chip dan belanja modal tetap tidak diungkap.
Dari 100 hingga 300, ini pertama kalinya redaksi resmi mencapai tingkat 'sistem inferensi utama'. Batasannya adalah inferensi: soal chip apa yang dipakai untuk pelatihan, blog itu tidak menyinggung sepatah kata pun. Apakah pelanggan cloud Azure di luar Copilot dapat menyewa daya komputasi Maia juga tidak disebutkan.
Microsoft menyatakan akan menjelaskan lebih jauh strategi dan detail teknis Maia di Ignite 2026 yang digelar di San Francisco pada November. White paper teknis sudah tersedia di situs resmi Azure, tetapi apakah angka-angkanya dapat direproduksi dalam pengujian pihak ketiga baru bisa diketahui setelah chip benar-benar beroperasi.
Sumber: blog resmi Microsoft, white paper teknis Azure Maia 300, Reuters, CocoLoop, Techzine, The Information; spesifikasi chip dan rak, acuan perbandingan token per megawatt dan per watt, serta wilayah penerapan diverifikasi melalui blog Microsoft.