GLM-4.5 dari Zhipu AI telah mengambil langkah yang sangat simbolis—model ini dioptimalkan secara khusus untuk NVIDIA H20 (GPU edisi khusus China), sehingga model penuh dapat berjalan hanya dengan delapan kartu.
Mengapa Hal Ini Penting
Setelah pembatasan ekspor chip AS ke China, GPU NVIDIA terbaik yang dapat dibeli perusahaan AI China adalah H20—sebuah versi yang bandwidth komputasi interkoneksinya telah dikurangi. Banyak model mutakhir luar negeri tidak dapat berjalan di H20 atau berjalan dengan efisiensi yang sangat rendah.
Zhipu memilih untuk menghadapi kendala ini secara langsung, dengan mengadaptasi arsitektur model dan alur inferensi secara khusus pada karakteristik perangkat keras H20. Biaya dan hambatan masuk untuk delapan kartu H20 jauh lebih bersahabat dibandingkan solusi yang membutuhkan puluhan hingga ratusan GPU A100.
Adaptasi Teknis
Optimasi spesifik meliputi:
- Penyesuaian metode komputasi attention agar sesuai dengan karakteristik bandwidth memori H20
- Strategi pemartisian model yang dirancang khusus untuk konfigurasi 8 kartu
- Skema kuantisasi pada tahap inferensi yang disesuaikan dengan presisi komputasi H20
Kinerja
Kinerja GLM-4.5 pada tugas pemahaman dan pembuatan teks bahasa Mandarin berada di jajaran teratas model domestik. Model ini setara atau mendekati model level GPT-4 di sebagian besar tolok ukur bahasa Mandarin. Terdapat kesenjangan pada tugas berbahasa Inggris, namun kesenjangan ini semakin menyempit.
Yang lebih penting adalah biaya penerapan aktual—bagi perusahaan domestik, kemampuan untuk mencapai hasil mendekati level terdepan menggunakan perangkat keras yang dapat dibeli secara legal memiliki nilai praktis yang jauh lebih besar daripada skor tolok ukur.
Dampak Industri
Pendekatan Zhipu ini mewakili salah satu strategi industri AI China dalam menghadapi pembatasan chip: tidak menunggu perangkat keras terbaik, melainkan memaksimalkan hasil dari perangkat keras yang sudah tersedia.
Hal ini sejalan dengan strategi DeepSeek yang menggunakan daya komputasi terbatas untuk menekan biaya serendah mungkin. Ketika kondisi eksternal dibatasi, kemampuan optimasi rekayasa yang terasah justru berpotensi menjadi keunggulan kompetitif jangka panjang.
Sumber referensi: CocoLoop, rilis resmi Zhipu AI