Kimi K3.1 Pro 開放權重,檔案大到 5.6TB

Open source illustration: hands joining branches to a shared node tree

月之暗面依 10 月 24 日發表時的承諾,在 Hugging Face 釋出了 Kimi K3.1 Pro 的模型權重,IT 之家 11 月 5 日報導了這項消息。模型總參數為 2.8 兆,單次推論啟用約 1040 億,上下文約 100 萬 token。

權重檔案的體積同樣醒目:BF16 版約 5.6TB,INT4 量化後約 1.4TB。

授權條款是這次要等的細節。根據公開資料,上一代 K3 採用的是修改版 MIT,K3.1 Pro 的條款我們還沒有從官方頁面查證,要商用的讀者請以儲存庫裡的 LICENSE 檔案為準。

榜單靠真實對話打分

與權重一併被引用的成績,來自 Arena 的 Agent Arena 榜單。K3.1 Pro 在開放權重模型中排名第一,在所有參評模型中排名第 13,工作、程式設計、聊天三個類別都是開放模型第一。

這個榜單不做成對盲測投票。它從真實的智慧代理對話中擷取訊號,例如任務確認、稱讚與抱怨、使用者修正、Shell 報錯,再以一種稱為「因果追蹤」的隨機化推論方法估算淨改善率。這次評測涵蓋超過 1.75 萬次長週期任務對話。

指標K3K3.1 Pro
淨改善率+0.9%+5.1%
Bash 可靠性-4.5%+7.9%
稱讚對抱怨+1.3%+7.7%

Bash 可靠性由負轉正,還排到開放模型的第一位,這對執行長任務的使用者影響最直接,指令接連出錯的智慧代理很難放心交給它做事。任務確認成功率 +3.9%,在開放模型中排名第四,並非樣樣領先。

與兩家閉源旗艦對照

月之暗面公布的比較表裡有幾十項基準測試,包含內部測試,以下只挑公開的基準。

基準測試K3.1 ProGPT-6 AstraOpus 5.5
Terminal-Bench 4.065.758.266.4
SWE Marathon v1.151.742.546.3
Frontier Finance58.645.056.7
HLE-Full(搭配工具)70.057.267.7
Program Bench31.550.065.0
Terminal-Bench-Science 0.138.168.163.3
HLE-Diamond39.465.860.9
ExploitBench74.710091.0

排在前面的多半是搭配工具、流程較長的任務,落後的則集中在科學任務、高難度推理與網路攻防。Terminal-Bench 4.0 與 Opus 5.5 只差 0.7 分,到了它的科學分支,差距拉大到 25 分以上。這張表由廠商公布,部分分數尚未經第三方重現。

攻防這一欄可以單獨來看。開放權重模型一旦被下載就無法收回,ExploitBench 的 74.7 分和 ExploitGym 的 20.7 分距離閉源旗艦仍有差距,對於開放釋出的安全討論,這兩個分數可作為一個參照。

能下載與能執行差很遠

IT 之家在報導中特別提醒,「可下載」與「可在本機執行」之間距離很大,一般消費級顯示卡基本上無法部署。

粗略算一下:INT4 版 1.4TB 若全部放進顯示記憶體,以單卡 80GB 計算,需要約 18 張資料中心級顯示卡,這還沒算上下文快取的開銷。MoE 架構每次只啟用約 1040 億參數,部分全注意力層也改成了閘控稀疏注意力來壓低長上下文的開銷,但權重總得有地方放。

所以對中國的多數團隊來說,這次開放權重的直接好處落在幾家雲端業者和推論服務商身上:它們可以自行部署、自行定價。一般開發者更可能感受到的變化,是呼叫入口變多了。價格會不會因此下降,要等第三方代管版本上線後再比較。

參考來源:IT 之家、CocoLoop、Arena Agent Arena 榜單;基準測試分數來自月之暗面公布的比較表,顯示記憶體需求為本站估算。