MiniMaxは10月23日、M3.1 Flashのモデル重みを公開すると発表した。Hugging FaceとModelScope(魔搭社区)に同時に掲載されている。公式が示す規模は、総パラメータ約428B、トークンあたりアクティブ23Bだ。
このモデルは9月末にプレビュー版としてAPIで先行提供されており、当時Hugging Face上に対応する重みはなかった。モデルカードの記述によれば、ネイティブマルチモーダルのMoE(混合エキスパート)モデルで、入力はテキスト・画像・動画、出力はテキスト。コーディング、エージェントタスク、コンピューター操作、サイバーセキュリティを主な用途に掲げる。
モデルカードの内容
アーキテクチャの変更点は3つある。1つ目は、MiniMax独自のスパースアテンション(MSA)をモデル全体に適用したこと。従来は先頭3層にあったフルアテンションを置き換えた。2つ目は、ルーティングされるエキスパートとアテンション経路の両方で量子化対応学習(QAT)を行ったこと。3つ目は、推測デコードによる高速化のためのDSparkドラフトヘッドを重みに同梱したことだ。
コンテキストウィンドウは最長100万トークン。ただしモデルカードは、実際に使える長さはGPUメモリとデプロイ構成に左右されると明記している。推論強度はreasoning_effortで調整し、low、medium、high、xhigh、maxの5段階。推奨サンプリングパラメータはtemperature 1.0、top_p 0.95だ。
デプロイ面では、公式はSGLang、vLLM、TokenSpeedをサポートし、SGLangとDocker Model Runner向けのイメージを提供する。マルチチップ環境はFlagOS経由となる。推奨GPUの型番や枚数は、モデルカードに記載がない。
ライセンスはminimax-communityと表記されている。商用利用の具体的な条件はリポジトリのLICENSEファイルにあるため、製品に組み込む予定のチームは先に条項を読んでおきたい。
モデルカードには、もう1点つじつまの合わない箇所がある。Hugging Faceのページが読み取ったSafetensorsメタデータでは、パラメータ数が約220Bと表示され、公式の428Bとほぼ半分も開きがある。量子化後の保存形式に関係すると大まかには推測できるが、MiniMaxは現時点でこの点に説明を出していない。
比較対象と結果
公式が取り上げた成績は、エージェント系とセキュリティ系のベンチマークに集中している。
| ベンチマーク | M3.1 Flash | モデルカード記載のOpus 5 |
|---|---|---|
| BankerToolBench | 76.2 | 76.2 |
| DeepSWE v1.1 | 73.7 | — |
| OSWorld 2.0 | 61.7 | 70.6 |
| Terminal Bench 4.0 | 38.1 | 51.8 |
| CyberGym | 82.2 | — |
BankerToolBenchはOpus 5と並ぶ。OSWorld 2.0は約9ポイント、Terminal Bench 4.0は13.7ポイント下回る。このほか公表されている成績は、Agents' Last Examが29.6、HLE(ツールなし)が43.4、BabyVision(ツールあり)が91.0、CharXiv RQが82.5。いずれもMiniMaxが公式重みで自ら測定した結果で、サードパーティの量子化版ではスコアが異なる可能性があるとモデルカードは注意を促している。独立した評価はまだ出ていない。
公式が選んだ比較項目を見る限り、アクティブ23Bのオープンウェイトモデルは、ターミナルやコンピューター操作のような長い連鎖を要するタスクではクローズドの旗艦モデルとまだ差があり、金融ツール呼び出しのような限定的な場面では追いついた形だ。
M3からM3.1 Flashへ
公開情報によれば、MiniMax-M3は6月1日に発表された。規模は同じく総パラメータ428B、アクティブ23Bで、当時すでに100万コンテキストとスパースアテンションを売りにしていた。M3.1 Flashでパラメータ規模は変わっておらず、変更はアテンション層の置き換え、量子化対応学習、推測デコードヘッドに集約される。同じサイズのモデルをより省コストで動かす狙いだ。
時系列からもペースが読み取れる。9月末にプレビュー版を投入し、10月17日にHugging Faceにリポジトリを作成、10月19日前後にサードパーティのルーティングサービスが日付サフィックス付きのエンドポイントを開始し、10月23日に重みを公開した。記事執筆時点で、このリポジトリのダウンロード数は1,000回をわずかに超えた程度だ。
中国の開発者にとっては、ModelScopeへの同時掲載により、数百GBの重みを海外から取得する手間が省ける。自前運用のハードルはハードウェアにある。428Bパラメータは4bitで大まかに見積もっても、重みだけで200GB超のGPUメモリが必要になり、長いコンテキスト用のKVキャッシュはまだ含まれていない。80GBのGPUが複数枚ないと載らず、中小チームにとって現実的なのは引き続きAPI経由の利用だ。
参考資料: MiniMax公式発表、Hugging Faceモデルカード、CocoLoop、OpenRouter。パラメータ規模、コンテキスト長、ライセンス名、モデルカード記載のベンチマークスコアを確認した。