MiniMax M3 引入稀疏注意力,支援百萬級上下文

6 月 1 日,MiniMax 發表了 M3。一句話總結賣點:一個開源權重的模型,同時塞進百萬 token 上下文、前沿級的寫程式能力,還帶原生多模態。MiniMax 說,這三樣湊在一起的,它是頭一個。

真正的功夫在「稀疏注意力」上

M3 的底座是一套名為 MSA(MiniMax Sparse Attention)的新架構。

要了解它解決了什麼,得先知道老問題:標準的全注意力,算力隨上下文長度平方往上漲——上下文一長,成本就爆炸。這也是為什麼「百萬上下文」喊了這麼久,真用起來都嫌貴。

MSA 就是衝這個去的。MiniMax 給的數字:在百萬 token 這個長度上,M3 每個 token 的算力只有上一代 M2 的二十分之一;預填充快了 9 倍多,解碼快了 15 倍多。

換句話說,百萬上下文這次不只是「能用」,是「用得起」。

跑分:自己報的,挺猛

程式設計是 M3 主打的方向。MiniMax 列出的成績:

  • SWE-Bench Pro:59.0%(超過 GPT-5.5、Gemini 3.1 Pro,逼近 Opus 4.7)
  • Terminal-Bench 2.1:66.0%
  • MCP Atlas:74.2%
  • OSWorld(電腦操作):70.06%

這套數字要是屬實,對一個開源權重模型來說相當能打。

但得潑盆冷水:這些都是 MiniMax 自己跑、自己報的,第三方還沒複現。已經有海外媒體直接拿「前沿宣稱、跑分未經驗證」當標題了。所以聰明的做法是——等十天後權重和技術報告放出來,社群自己上手測了再下結論。

價錢也擺出來了

MiniMax 這次連套餐都標好了:

  • Plus:每月約 17 億 token,20 美元
  • Max:每月約 51 億 token,50 美元
  • Ultra:每月約 98 億 token,120 美元

API 已經能用,模型權重和技術報告說大概十天內放到 Hugging Face 和 GitHub。

放到大背景裡看,這是國產開源大模型又一次往「長上下文 + 能幹活的 Agent」方向使勁。DeepSeek、Qwen、Kimi 已經在這條路上卷了一年,MiniMax 這次的差異化押在架構效率上——不比誰參數大,比誰在百萬上下文這個尺度上,算得又快又便宜。

這一刀,砍的是閉源模型「長上下文太貴」的那點護城河。

參考來源:CocoLoop、MiniMax Releases MiniMax M3 with MSA Architecture Supporting 1M-Token Context(MarkTechPost);MiniMax M3: Open-weight model with a million-token context challenges proprietary leaders(The Decoder);MiniMax M3 Open-Weight Coding Model: Frontier Claims, Unverified Benchmarks(TechTimes)