Agustus lalu, DeepSeek merilis V3.1, model hibrida pertama mereka — menggabungkan kemampuan V3 (umum) dan R1 (penalaran) ke dalam satu model.
Desain Arsitektur
- Total parameter: 671B, dengan 37B diaktifkan per token
- 256 pakar per lapisan, 8 diaktifkan
- Dua mode yang dapat dialihkan dengan satu klik:
- Think mode (deepseek-reasoner): penalaran multi-langkah + pemanggilan alat
- Non-think mode (deepseek-chat): percakapan sehari-hari, respons cepat
Kedua mode berbagi bobot, dengan konteks 128K.
Mengapa "Hibrida" Lebih Baik?
Lihat langsung skor SWE-bench Verified:
- V3.1: 66,0%
- R1-0528: 44,6%
Pada tolok ukur pemrograman, model hibrida mengungguli model penalaran murni. Think mode mencapai sekitar 90-95% dari performa R1 pada tugas yang membutuhkan penalaran intensif, dengan waktu respons yang lebih cepat.
Pada dasarnya, V3.1 membuktikan satu hal: satu model dapat menangani "tanya jawab cepat" dan "penalaran mendalam" — skenario yang sebelumnya memerlukan penerapan terpisah.
Detail Pelatihan
Berdasarkan V3.1-Base, tambahan 840 miliar token digunakan untuk pelatihan:
- Fase 32K: 630 miliar token
- Fase ekstensi 128K: 209 miliar token
Peningkatan utama berfokus pada pemahaman konteks panjang, penggunaan alat, dan alur kerja agen. DeepSeek secara resmi memposisikan V3.1 sebagai "langkah pertama menuju era Agen."
Dari segi praktis, dengan V3.1 tidak perlu lagi memilih antara model umum dan model penalaran — cukup berikan tugas dan biarkan model memutuskan sendiri.
Sumber: CocoLoop, laporan The Decoder, rilis resmi DeepSeek