AI Alibaba Tulis Driver Chip Sendiri, Hasilkan Akselerasi 10x

Pada Konferensi Yunqi di Hangzhou, 20 Mei, Alibaba meluncurkan tiga produk baru: sebuah chip, sebuah model, dan sebuah rak server. Namun yang paling menarik perhatian adalah demonstrasi selama 35 jam yang menentang logika konvensional.

Demonstrasi yang kontra-intuitif

Alibaba menempatkan model Qwen3.7-Max yang baru dirilis di atas chip Zhenwu M890 yang juga baru, dan memberinya tugas yang terdengar mustahil: menulis sendiri driver kernel tingkat rendah untuk mengoptimalkan operator Extend Attention dari awal. Chip tersebut tidak memiliki dokumentasi eksternal.

Setelah 35 jam, hasilnya:

  • Panggilan alat: 1.158 kali
  • Evaluasi kernel: 432 kali
  • Desain ulang arsitektur: 5 putaran
  • Akselerasi akhir (rata-rata geometrik): 10×

Dengan kata lain, model tersebut menemukan cara menulis driver untuk chip yang belum pernah dilihatnya, meningkatkan kinerja sepuluh kali lipat. Tugas seperti ini biasanya memakan waktu satu hingga dua bulan bagi tim insinyur chip.

Chip Zhenwu M890

Spesifikasi utama:

  • Memori HBM3: 144 GB (50% lebih banyak dari Zhenwu 810E sebelumnya)
  • Bandwidth interkoneksi: 800 GB/s
  • Komputasi keseluruhan: 3× generasi sebelumnya

Memori 144 GB menempatkan M890 di antara H200 Nvidia (141 GB) dan B200 (192 GB), membuatnya cocok untuk inferensi model besar dan beban kerja agen yang memerlukan konteks panjang dan banyak langkah.

Alibaba juga mengungkapkan telah mengirimkan 560.000 chip Zhenwu ke lebih dari 400 pelanggan di 20 industri, menandakan produksi skala besar.

Model Qwen3.7-Max

Fitur utama:

  1. Jendela konteks 1 juta token (naik dari 256.000 pada Qwen3.6-Max-Preview)
  2. Dioptimalkan untuk tugas jangka panjang dan kode
  3. Dirancang bersama dengan Zhenwu M890

Meskipun bukan jendela konteks terpanjang yang tersedia, 1 juta token cukup untuk tugas agen yang berjalan selama berjam-jam tanpa kehilangan konteks.

Mengapa ini penting

Tiga faktor bertemu:

Pertama, Alibaba kini menawarkan solusi tumpukan penuh dengan chip, model, dan rak server (Panjiu AL128) sendiri, mencakup pelatihan hingga inferensi.

Kedua, model yang menulis drivernya sendiri adalah demonstrasi cerdas yang memberi tahu pelanggan bahwa chip tersebut mumpuni dan modelnya cerdas. Ini juga mengurangi kebutuhan Alibaba untuk merekrut insinyur tingkat rendah.

Ketiga, 560.000 chip yang telah dikirim bukanlah janji di atas kertas.

Bersama-sama, poin-poin ini menunjukkan Alibaba sedang membangun versi China dari Nvidia plus OpenAI: chip, model, dan solusi terintegrasi sendiri, didanai oleh pendapatan dan basis pelanggannya sendiri.

Perbandingan dengan Nvidia

Zhenwu M890Nvidia H200Nvidia B200
Memori144 GB HBM3141 GB HBM3e192 GB HBM3e
Interkoneksi800 GB/sNVLink 900 GB/sNVLink 1,8 TB/s
EkosistemMembangun alternatif CUDACUDACUDA

Spesifikasi perangkat keras sudah setara dengan H200, namun kesenjangan ekosistem perangkat lunak masih ada. Kemampuan Qwen3.7-Max menulis kernel sendiri dapat membantu menjembatani kesenjangan tersebut: model bertindak sebagai kompiler super, menghasilkan driver sesuai kebutuhan. Meskipun bukan solusi lengkap, ini menawarkan jalur potensial bagi perusahaan China untuk memotong CUDA.

Apa yang perlu diperhatikan

Dua hal:

Pertama, seberapa besar komputasi Zhenwu yang akan dibuka Alibaba Cloud untuk pelanggan eksternal pada paruh kedua tahun ini. Jika sebagian besar dari 560.000 chip tetap internal, penawaran ini untuk penggunaan sendiri; jika lebih dari 30% bersifat eksternal, hal itu dapat mengubah peta pasar cloud China.

Kedua, apakah kemampuan menulis driver Qwen3.7-Max dapat digeneralisasi ke chip lain. Jika model dapat beradaptasi dengan chip apa pun, maka akan menjadi akal sehat industri bahwa pembuat chip perlu memiliki tim LLM sendiri, dan sebaliknya.

Alibaba telah memposisikan diri di kedua front.

Sumber: Alibaba unveils Zhenwu M890 chip and Qwen3.7-Max LLM (Let's Data Science); Qwen3.7-Max Wrote Its Own Chip's Software in 35-Hour Run (TechTimes); Alibaba reveals more powerful Zhenwu AI chip, CocoLoop, new LLM (CNBC); Alibaba Bets Big on AI Agents With New Zhenwu M890 Processor (SQ Magazine)