K1.5 dari Moonshot AI, yang dirilis sebelum K2, memiliki fokus utama pada penggunaan pembelajaran penguatan murni untuk meningkatkan kemampuan penalaran.
Pendekatan teknis
Peningkatan penalaran K1.5 tidak bergantung pada jalur konvensional SFT (supervised fine-tuning) atau RLHF. Sebaliknya, ia lebih bergantung pada pelatihan RL (pembelajaran penguatan) murni.
Ini mirip dengan pendekatan di balik DeepSeek R1 — membiarkan model belajar bernalar melalui trial and error yang ekstensif dan sinyal reward, daripada diajari dengan "langkah penalaran yang benar" yang diberi anotasi oleh manusia.
Manfaatnya adalah:
- Tidak terbatas oleh kualitas atau kuantitas data anotasi manusia
- Model mungkin menemukan strategi penalaran yang tidak pernah terpikirkan oleh pemberi anotasi manusia
- Secara teoritis lebih mudah untuk ditingkatkan (scale up)
Performa
K1.5 mencapai hasil terdepan di antara model open-source seangkatannya pada tolok ukur penalaran matematika. Meskipun masih ada kesenjangan dibandingkan model closed-source seperti GPT-4o dan Claude Opus, kesenjangan tersebut berada dalam kisaran yang dapat diterima.
Yang lebih penting, K1.5 memvalidasi kelayakan pendekatan RL murni pada model skala menengah. Ini meletakkan fondasi teknis untuk pengembangan K2 dan K2.5 selanjutnya.
Hubungan dengan K2
K1.5 dapat dipandang sebagai versi pratinjau teknis untuk K2 — setelah memvalidasi pendekatan teknis penalaran berbasis RL, K2 langsung menerapkan metodologi ini pada skala triliunan parameter, sambil juga mengadopsi arsitektur MoE untuk mengendalikan biaya komputasi.
Proses iteratif dari K1.5 ke K2 menunjukkan bahwa strategi R&D Moonshot AI adalah memvalidasi metodologi terlebih dahulu, lalu meningkatkan skala, bukan memulai dengan jumlah parameter yang sangat besar sejak awal. Pendekatan bertahap ini pragmatis untuk tim dengan sumber daya yang terbatas.
Sumber referensi: CocoLoop, blog teknis Moonshot AI