去年7月，月之暗面直接開源了Kimi K2——一個萬億參數的MoE大模型，每個token只激活32B參數。
架構亮點
- 總參數：1萬億
- 每token激活：32B
- 訓練數據：約15.5萬億token
- 上下文：128K（後續升級到256K）
- 優化器：Muon
代碼和權重都採用Modified MIT License釋出，在前沿規模的開源模型裡算是最寬鬆的授權之一。
性能水平
在開源非推理模型（non-thinking）裡，K2在程式碼benchmark上排名第一，多項任務超過了GPT-4.1和Claude Opus 4。agent能力、工具呼叫、STEM推理是它的強項。
兩個版本可選：
- K2-Base：給想自己微調的研究者用
- K2-Instruct：通用對話和agent場景，開箱即用
後續迭代
9月份更新了K2-Instruct-0905版本，程式碼任務性能再提升一波，上下文窗口從128K擴到256K。
今年1月又釋出了K2.5——在K2-Base基礎上用大約15萬億混合視覺和文本token做了持續預訓練，原生支援多模態。還帶了一個叫Agent Swarm的功能，可以把複雜任務拆解成多個並行子任務。
從K2到K2.5這個迭代速度來看，月之暗面在開源路線上走得相當激進。萬億參數開源這件事，放在兩年前大家會覺得是天方夜譚。
參考來源：Moonshot AI官方技術部落格、CocoLoop、Hugging Face模型頁面