Tim LMSYS merilis laporan performa inferensi MiniMax-H3 pada 27 Agustus, diuji pada 8 unit GPU NVIDIA H200 dengan memori 141GB masing-masing, menjalankan framework SGLang Diffusion. Parameter dipatok pada resolusi 1344×768, 24 FPS, dan 50 langkah denoising, menghasilkan klip berdurasi 5 detik dan 10 detik, dengan Diffusers sebagai pembanding.
Kesimpulannya terbagi dalam dua tingkat. Tingkat pertama adalah angka apa adanya:
"Jalur dense dan lossless SGLang 1,85–1,95x lebih cepat dari Diffusers tanpa aproksimasi sama sekali: beban kerja denoising yang sama, dijalankan di runtime yang lebih cepat."
Pada pipeline animasi teks-ke-video, jalur lossless 1,87 hingga 1,95x lebih cepat dari Diffusers; pada pipeline daftar-frame-ke-video, 1,91 hingga 1,95x lebih cepat. Kedua pipeline sama-sama mendekati dua kali lipat kecepatan, dan SSIM-nya persis 1,0000 — hasilnya identik hingga level piksel.
Tiga lapis percepatan baru mencapai 6x jika ditumpuk
Laporan ini memecah percepatan menjadi tiga komponen, masing-masing dengan sifat berbeda.
Fused operators murni pekerjaan rekayasa. SGLang menggabungkan pembaruan AdaLN, residual gated, aktivasi SwiGLU, serta QK RMSNorm dengan 3D RoPE ke dalam satu kernel, mengurangi lalu-lalang akses memori. Pengujian operator secara terisolasi menunjukkan percepatan antara 2,00x hingga 12,16x; secara end-to-end, ini yang menghasilkan angka 1,95x di atas. Lapisan ini tidak mengubah hasil komputasi sama sekali.
Cache-DiT mulai memakai aproksimasi: langkah-langkah denoising yang berdekatan menggunakan ulang hasil dari cache, dengan ambang batas selisih residual yang menentukan apakah cache dipakai ulang. Ambang batas konservatif 0,04, tingkat "stride" yang lebih agresif 0,08. Tingkat konservatif mencapai 2,65x dan 2,99x pada kedua pipeline, dengan SSIM turun ke sekitar 0,90 dan 0,94.
SubBlock sparse attention adalah yang paling agresif: router block-sparse memangkas blok KV yang ikut dihitung setelah langkah ke-10, dengan tingkat sparsity diset 0,75 atau 0,80. Ditumpuk dengan tingkat stride Cache-DiT, teks-ke-video mencapai 4,90x hingga 5,72x, dan daftar-frame-ke-video mencapai 5,64x hingga 6,24x.
Ongkos kualitas gambar di tingkat 6x
Ongkosnya sepenuhnya tercermin di angka SSIM, dan kedua pipeline menunjukkan hasil yang jauh berbeda. Pipeline daftar-frame-ke-video relatif tahan banting: pada sparsity 0,75 ditambah stride, SSIM klip 10 detik masih 0,9202, klip 5 detik 0,8629. Pipeline teks-ke-video turun jauh lebih drastis — dengan pengaturan yang sama, angkanya cuma 0,7834 dan 0,7713, dan begitu sparsity dinaikkan ke 0,80 turun lagi ke 0,7584.
SSIM 0,76 itu setara apa? Secara kasar, struktur dan komposisi gambar masih ada, tapi tekstur, detail, dan komponen frekuensi tinggi sudah tidak lagi cocok dengan output aslinya — dan kelihatan begitu di-zoom. Pipeline daftar-frame-ke-video turunnya lebih sedikit karena biasanya terikat oleh frame pertama atau keyframe; modelnya sudah dipatok oleh frame kondisi, jadi ruang yang bisa hilang akibat sparsifikasi memang lebih sempit.
Kalau dikonversi ke biaya, hitungannya jadi lebih jelas. Harga sewa on-demand untuk 8 unit H200 di pasar kira-kira 2 sampai 3 dolar AS per unit per jam, sehingga satu mesin berjalan satu jam mendekati 20 dolar AS (perkiraan kasar — beda penyedia cloud dan jangka kontrak bisa cukup jauh selisihnya). Dengan jalur lossless 1,95x lebih cepat, dalam satu jam yang sama bisa dihasilkan hampir dua kali lipat output, biaya per klip terpangkas jadi sedikit di atas separuh — dan separuh ini didapat cuma-cuma, tanpa mengorbankan kualitas gambar sedikit pun. Tingkat yang lebih tinggi menghemat uang dalam jumlah yang sama, tapi harus membayarnya dengan SSIM, dan apakah pertukaran ini sepadan tergantung apakah klip itu untuk pengiriman akhir atau untuk penyaringan.
Kalau dipetakan begini, penggunaan praktisnya sebaiknya dibagi tiga tingkat: pakai jalur lossless untuk hasil akhir, dapat 1,95x cuma-cuma; kalau butuh keseimbangan, pakai tingkat konservatif Cache-DiT, 2,65 sampai 2,99x, dengan SSIM di atas 0,90 umumnya masih bisa diterima; untuk menyaring komposisi atau pratinjau, pakai tingkat SubBlock 0,75, menukar kualitas gambar yang "sekilas cukup jelas" dengan kecepatan 6x — toh setelah disaring tetap harus dirender ulang.
Beberapa batasan yang perlu dicatat
Laporan ini sendiri menetapkan batasannya. Yang diuji hanya tiga metode akselerasi ini; metode lossy lain yang sama umumnya, seperti kuantisasi dan resolusi progresif, tidak dimasukkan. Perhitungan waktu tidak mencakup startup layanan, pemanasan, polling HTTP, dan unduhan file, artinya angka-angka kelipatan ini murni sisi inferensi — rasa end-to-end sesungguhnya bakal sedikit lebih rendah. SubBlock juga punya prasyarat ketat: hanya berlaku untuk attention non-kausal yang panjang, dengan BF16, head dimension 128, dan panjang sequence minimal 4096. Data pengujian sebenarnya dikumpulkan pada 18 Agustus, laporan baru terbit sembilan hari kemudian.
Kalau ditempatkan pada garis waktu H3, polanya jadi jelas: bobot model dirilis akhir Juli, dan sebulan kemudian stack inferensi pihak ketiga sudah mendorong jalur lossless mendekati dua kali lipat kecepatan — nilai sesungguhnya dari model open-weight sering kali bukan pada skor benchmark hari peluncuran, melainkan pada berapa banyak orang yang mau menulis kernel untuknya setelah bobotnya dibuka ke publik.
Sumber: blog rekayasa LMSYS, CocoLoop, dokumentasi proyek SGLang; angka percepatan dan SSIM untuk setiap tingkat diverifikasi menggunakan konfigurasi yang sama, yaitu 8 unit H200, 1344×768, 24 FPS, dan 50 langkah denoising.