DeepSeekと北京大学は、生成速度を60〜85%高め、単一GPUのスループットを最大6.6倍にする推論フレームワークDSparkをオープンソース化した。
DSparkは投機的デコーディングと半自己回帰設計を使い、小さな下書きモデルが複数トークンを先に提案し、大きなモデルが検証する。狙いは新しいGPUを待つのではなく、手元のカードでより多くのユーザーを支えることだ。
次の焦点
この動きは、単なる製品発表ではなく、AI の事業化と規制環境の変化を映す材料でもある。次に見るべきなのは、発表時の数字が実利用でも維持されるかだ。
参考資料: DeepSeek, Peking University, project materials, CocoLoop.