StepFun buka bobot Step 5, model 600B jalan di 8 GPU

Pada 15 Oktober, StepFun mengunggah bobot model unggulannya, Step 5 Preview, ke Hugging Face. Langkah ini memenuhi janji yang disampaikan saat peluncuran 20 September, yaitu membuka kode secara resmi pada 15 Oktober. Repositori saat ini berisi dua set bobot utama, FP8 dan BF16, ditambah satu repositori NVFP4 yang dibuat pada 14 Oktober. Ketiga repositori itu selesai diperbarui pada pagi hari ini.

Isi kartu model

Step 5 Preview memakai arsitektur MoE jarang (sparse), dengan total parameter sekitar 600 miliar (metadata berkas bobot menunjukkan 604B) dan sekitar 27 miliar parameter aktif per token. Jendela konteksnya mencapai 1 juta token, dan keluaran maksimumnya juga tercatat 1 juta token. Masukan mendukung teks dan gambar, sedangkan keluarannya berupa teks. Kartu model hanya memberi satu kalimat soal posisinya:

"Step 5 Preview is StepFun's flagship model for agentic work."
(Step 5 Preview adalah model unggulan StepFun untuk tugas agen.)

Lisensinya adalah StepFun Model License 1.0 milik StepFun sendiri. Secara resmi disebut "bergaya Apache-2.0", tetapi ada tambahan kewajiban atribusi dan syarat izin penggunaan komersial. Skala penggunaan komersial seperti apa yang perlu diajukan secara terpisah tidak dijelaskan dalam ringkasan kartu model, sehingga teks lisensi lengkap perlu dibaca.

Hasil benchmark dalam kartu model hanya ditampilkan berupa grafik, mencakup pemrograman, tugas agen, pekerjaan pengetahuan profesional, dan keuangan, tanpa angka per butir di teksnya. Kartu model mencatat bahwa skor diukur pada tingkat penalaran High, dan butir GDPval-AA mengutip data Artificial Analysis per 20 September. Dari pihak ketiga, Artificial Analysis memberi model ini skor 44 pada indeks kecerdasan gabungannya, menempatkannya di tiga besar model open source.

Apa artinya bagi tim di Tiongkok

Informasi paling praktis dari pembukaan kode ini adalah tabel penerapan di kartu model:

Kerangka kerjaPresisiPerangkat keras
vLLM / SGLangFP81 server B300 (4 GPU) atau 1 server H200 (8 GPU)
vLLMBF161 server B300 (8 GPU) atau 2 server H200 (16 GPU)
Transformers luring (offline)FP81 server H200 (8 GPU)

Bagi perusahaan di Tiongkok, B300 pada dasarnya tidak bisa didapat, dan pasokan H200 ke Tiongkok tahun ini pun penuh liku. Jalur yang realistis kemungkinan besar adalah FP8 di server H200 dengan 8 GPU. Tabel penerapan di kartu model hanya mencantumkan H200 dan B300 dari NVIDIA. Soal apakah akselerator buatan dalam negeri bisa dipakai dan seberapa besar penurunan kinerjanya, StepFun belum memberikan solusi resmi.

Kartu model juga mengingatkan dua jebakan yang mudah dilewati. Pertama, permintaan panjang 1 juta token bisa jadi tidak muat di KV cache, bahkan dengan konfigurasi pada tabel di atas. Kedua, menambahkan parameter --dtype bfloat16 pada bobot FP8 tidak akan mengembalikan bobot terkuantisasi ke BF16; untuk menjalankan BF16, Anda harus mengunduh set bobot BF16 yang terpisah. Alur pemuatan pecahan (shard) BF16 di Transformers ditandai oleh pihak resmi sebagai belum diverifikasi sepenuhnya.

Hitungan kasar: pada FP8, 600 miliar parameter saja sudah memerlukan sekitar 600GB untuk bobot, sedangkan 8 kartu H200 berkapasitas 141GB menyediakan total sekitar 1,1TB memori, dan sisanya untuk KV cache. Bagi tim yang ingin menjalankan versi lengkap di ruang server sendiri, syarat minimalnya adalah satu server seperti ini.

25 hari dari peluncuran ke pembukaan kode

Saat peluncuran 20 September, StepFun menonjolkan biaya: perusahaan menyatakan biaya per tugas Step 5 Preview sekitar seperdelapan dari Claude Opus 5. Setelah itu, model ini dibuka lebih dulu lewat produk dan API milik StepFun sendiri, lalu pada awal Oktober melonjak ke peringkat pertama dunia di daftar Trending OpenRouter.

Setelah bobot dirilis, penilaian akan bergeser dari "apakah API-nya enak dipakai" menjadi "apakah layak dipasang sendiri". Seberapa cepat komunitas membuat versi bit rendah seperti GGUF, sehingga satu mesin atau klaster kecil pun bisa menjalankannya, akan menentukan seberapa banyak tim kecil dan menengah yang terjangkau oleh pembukaan kode ini. StepFun juga merilis blog teknis secara bersamaan, dan sejauh mana rincian seperti skala data pelatihan dan resep reinforcement learning dibuka masih harus dicocokkan komunitas satu per satu.

Sumber: kartu model StepFun di Hugging Face, CocoLoop, STAR Market Daily (Kechuangban Ribao), Ifanr; skala parameter, perangkat keras penerapan, dan ketentuan lisensi mengacu pada kartu model, sedangkan skor indeks kecerdasan mengacu pada metodologi Artificial Analysis.