DeepSeek 開源 DSpark 加速推理
DeepSeek 與北京大學開源 DSpark 推理框架,生成速度提升 60% 到 85%,單卡吞吐最高可達 6.6 倍。
收錄 AI 推理 相關產品動態與產業觀察,共 3 篇文章。
DeepSeek 與北京大學開源 DSpark 推理框架,生成速度提升 60% 到 85%,單卡吞吐最高可達 6.6 倍。
小米 MiMo 稱普通 GPU 上每秒超 1000 token. 本文整理事件重點、戰略背景,以及受影響用戶或企業需要注意的實務風險。
Tensormesh 獲得 AMD Ventures、NVentures、CoreWeave 等投資者 2000 萬美元,將其 KV 快取平台商業化,減少 GPU 重複計算浪費。