DeepSeek dan Universitas Peking membuka DSpark, kerangka inferensi yang menaikkan kecepatan generasi 60% hingga 85% dan throughput satu GPU hingga 6,6 kali.
DSpark memakai speculative decoding dan desain semi-autoregresif: model kecil menebak beberapa token, lalu model utama memverifikasi. Tujuannya membuat GPU yang ada melayani lebih banyak pengguna.
Yang perlu dipantau
Kabar ini penting karena bukan sekadar peluncuran produk, tetapi juga sinyal bisnis dan regulasi AI. Ujian berikutnya adalah apakah angka dan janji awal tetap berlaku dalam penggunaan sehari-hari.
Sumber: DeepSeek, Peking University, project materials, CocoLoop.