DeepSeek 開源 DSpark 加速推理

DeepSeek 與北京大學開源 DSpark 推理框架,生成速度提升 60% 到 85%,單卡吞吐最高可達 6.6 倍。

DSpark 使用投機解碼與半自回歸設計,讓小模型先提出多個 token 草稿,再由大模型驗證。重點不是等新硬體,而是讓既有 GPU 同時服務更多使用者。

後續看點

這件事不只是產品或公司動態,也折射出 AI 商業化、算力與監管之間的新拉扯。接下來要看發布時的數字和承諾,能不能在真實使用中站得住。

參考來源: DeepSeek, Peking University, project materials, CocoLoop.