Microsoft AI pada 15 Oktober mengumumkan detail pralatih (pretraining) MAI-Base-2, model fondasi generasi terbarunya. Model ini berarsitektur mixture-of-experts (MoE) dengan 2,8 triliun parameter total dan 80 miliar parameter aktif. Pralatih sudah selesai dan saat ini tim sedang mengerjakan pascapelatihan. MAI-Thinking-1 yang dirilis pada Juni dibangun di atas generasi sebelumnya, MAI-Base-1.
Ada dua klaim utama dari Microsoft. Pertama, "MAI-Base-2 outperforms every open-weight model we tested on our held-out evaluations" (pada evaluasi internal yang disimpan terpisah, MAI-Base-2 mengungguli semua model open-weight yang diuji). Kedua soal efisiensi: dibandingkan dengan DeepSeek-V4-Pro-Base, yang dinilai Microsoft sebagai model dasar sumber terbuka terkuat, MAI-Base-2 membutuhkan komputasi pralatih 4,2 hingga 12,3 kali lebih sedikit untuk mencapai level yang sama, dan 6,3 hingga 12,7 kali lebih sedikit dibandingkan MAI-Base-1 milik sendiri. Komputasi yang dihemat dipakai untuk melatih model yang lebih besar. Versi 2.4T-A95B dari Qwen3.8 juga ikut dalam perbandingan.
Evaluasi ini memakai set evaluasi internal Microsoft. Soal dan skor per butir tidak dipublikasikan, sehingga pihak luar untuk sementara belum bisa mereproduksinya.
Data dan pelatihan
Dalam blognya Microsoft menyatakan bahwa seluruh data pelatihan diolah sendiri oleh tim dan "does not involve distillation from other models" (tidak melibatkan distilasi dari model lain). Campuran data pelatihan berjumlah 50 triliun token, dan berdasarkan token unik, korpusnya sekitar 36% lebih besar daripada MAI-Base-1. Data visual dimasukkan secara native: 4,5 triliun token visual unik, atau 18% dari campuran data pelatihan.
Perangkat kerasnya adalah 16.000 GPU GB200 yang berjalan terus-menerus selama 38 hari antara Agustus dan September 2026. MFU (pemanfaatan komputasi model) rata-rata 21%, dan porsi waktu pelatihan efektif 89%. Perubahan rekayasa terpusat pada lapisan MoE dan optimizer: MFU lapisan MoE naik dari 24% menjadi 35%; optimizer Muon, setelah sharding dan optimasi komunikasi, menekan overhead per langkah menjadi 2,1% dari waktu iterasi, sekitar 165 milidetik; stabilitas pelatihan dijaga dengan activation gradient clipping, yang menurut Microsoft sekaligus berfungsi sebagai alat diagnosis untuk menelusuri masalah pada data pelatihan.
Dari sisi metode, tim memakai scaling ladder untuk mengevaluasi perubahan model pada skala kecil, dan mengusulkan source scaling agar kesimpulan dari eksperimen kecil dapat berlaku pada skala besar. Hukum penskalaan untuk learning rate, weight decay, dan dropout juga diturunkan ulang.
Hitung kasar
Angka-angka di blog cukup untuk diperiksa sendiri. Dengan puncak teoretis BF16 GB200 sebesar 2,5 PFLOPS seperti tertulis di blog, 16.000 GPU pada pemanfaatan 21% menghasilkan komputasi efektif sekitar 8,4×10^18 operasi floating-point per detik. Tiga puluh delapan hari dikalikan 89% waktu efektif setara sekitar 2,92 juta detik. Jika keduanya dikalikan, total komputasi pelatihan kira-kira 2,5×10^25 FLOPs.
Rumus empiris yang lazim dipakai bisa menjadi pembanding: komputasi pelatihan kira-kira 6 × parameter aktif × jumlah token pelatihan, yaitu 6 × 80 miliar × 50 triliun, sekitar 2,4×10^25. Kedua cara menghasilkan orde besaran yang sama dengan selisih di bawah 5%, yang menunjukkan bahwa MFU, durasi, dan volume data yang diumumkan Microsoft saling konsisten. Dalam satuan jam GPU, angkanya sekitar 14,6 juta jam.
Di antara model yang angka pelatihannya sudah dibuka, skala ini termasuk yang teratas. Ada satu bagian pembanding yang masih kurang: Microsoft tidak menjelaskan bagaimana komputasi DeepSeek-V4-Pro-Base diperkirakan, dan blog tidak menguraikan bagaimana baseline di balik angka "4 hingga 12 kali" dipilih, sehingga untuk saat ini kita hanya bisa berpegang pada kerangka Microsoft sendiri.
Yang belum disampaikan
Hasil pascapelatihan MAI-Base-2 baru akan diumumkan setelah selesai. Microsoft tidak menyebut apakah bobotnya akan dibuka, atau dalam bentuk produk apa model ini akan diluncurkan, apakah disambungkan ke Copilot atau ditawarkan ke perusahaan lewat Foundry. Semua itu belum terlihat saat ini.
Di akhir blog disebutkan bahwa MAI-Base-3 sudah dalam persiapan. Dari MAI-Base-1 ke 2, Microsoft memperbesar korpus lebih dari sepertiga dan mendorong parameter hingga 2,8 triliun, sambil membuka angka seperti MFU dan jam GPU yang enggan diungkap kebanyakan laboratorium. Transparansi semacam ini jarang terlihat di antara laboratorium frontier.
Sumber: blog resmi Microsoft AI, CocoLoop; skala parameter, token pelatihan, jumlah GPU, dan acuan MFU telah diperiksa, sedangkan total komputasi pelatihan adalah perkiraan kasar situs ini berdasarkan angka yang dipublikasikan.