Inkling 2 Mini公開、ノートPCで動作

Open source illustration: hands joining branches to a shared node tree

Thinking Machines Labは11月20日、Inkling 2 Miniを発表し、重みを全面公開した。総パラメーター数26.4BのMixture of Experts(MoE)モデルで、トークンごとに3.4Bのパラメーターが有効になり、全体のメモリ使用量は約20GB。同社は「ノートPCで動かせるほど小さい」と説明している。初日から対応するローカル実行手段はOllamaで、必要なのはメモリ32GB以上のMacだ。

重みはHugging Faceで公開済み。あわせて、研究用途に限定した可変ループ版「TML-d24-varloop-research」も公開された。

中間層を3回まわす「ループ型Transformer」

Inkling 2 Miniの構造は、一般的な小型モデルとは少し異なる。保存している層は24層で、6層ずつ4つのブロックに分かれる。このうち2番目と3番目のブロックはトークンごとに3回繰り返し実行されるため、1トークンあたりの層計算は実質48回になる。保存するパラメーターは増えないまま、計算の深さは2倍になった。ループ分を含めると、1トークンあたりに有効になる重みは5.4Bだ。

学習過程にはプルーニング(枝刈り)の工程がある。モデルは当初384個のエキスパートを持ち、トークンごとに8個を選択していた。学習の途中で3分の2を削り、各層で最も使われた128個だけを残し、社内のより大きなInklingモデルから蒸留した1兆トークンで回復させた。ポストトレーニングには、教師あり微調整と、合計2.2兆トークンの強化学習が含まれる。

量子化については、学習からデプロイまで一貫してNVFP4形式(最後の4層のみMXFP8)を使っているため、量子化変換による精度劣化はないと同チームは述べている。GGUF版はUnslothとllama.cpp経由で入手できる。

公式デモはすべて、機内モードにしたMacBook Pro(M5 Pro、メモリ48GB)上で行われた。数分でフライトシミュレーターを書き上げたほか、20体のエージェントが暮らすピクセルアートの町も作った。

Qwen3.8-27Bと項目別に比較

公式の比較表では、規模の近い4モデル(Gemma 4 31B、Muse Glimmer、Qwen3.8-27B、Nemotron 3.5 Super VL)が選ばれている。Inkling 2 Miniと最も接戦なのがQwen3.8-27Bだ。

評価Inkling 2 MiniQwen3.8-27B
DeepSWE v1.148.2%42.2%
SWE-bench Pro v2 Hard77.9%73.8%
MCP Atlas82.7%77.3%
ARC-AGI v249.3%42.4%
Terminal Bench v2.171.6%73.0%
MMMU Pro74.9%76.3%
AA-Omniscience 非ハルシネーション率63.4%71.4%

Artificial Analysisのインテリジェンス指数では、両者とも20.1で並ぶ。大まかな傾向としては、エージェント型のコーディングやツール呼び出しではInkling 2 Miniが優勢で、ターミナル操作、マルチモーダル理解、知識の正確性ではQwen3.8-27Bが上回る。これらの数字はいずれもThinking Machines自身の評価によるもので、ページにはモデルごとに評価設定が完全には一致していないと注記されている。第三者のランキングによる再現結果は、現時点ではない。

外部機関が関わっているのは電力効率の部分だけだ。スタンフォード大学の2つの研究室が128GBのNVIDIA DGX Sparkで測定した「ワットあたりの知能」スコアは、Inkling 2 Miniが0.703、Qwen3.6-35B-A3Bが0.430だった。この測定ではInklingはMXFP8と低い推論強度、他のモデルはNVFP4またはINT4を使っており、条件は同一ではない。

公式が自ら挙げる弱点

発表文には制約事項を扱う専用の節があり、分量も少なくない。

チームは、Inkling 2 Miniがマルチターンの対話や複数制約の指示追従において最強の小型モデルではないことを認めており、MultiChallengeのスコアは50.0%だ。CritPt v2やHLE-Diamondのような推論負荷の高い評価では、より大きなモデルに後れを取る。ループ構造が加えるのは計算の深さであり、知識を多く蓄えられるわけではない。そのため知識系の評価は同サイズのモデルと同程度で、同社が示す対策は、検索やツールをより多く使わせることだ。

安全性評価には珍しい数字もある。このモデルは自身の思考の連鎖(chain of thought)に対する制御性が非常に低く、750〜1,250トークンの範囲で指示どおりに思考過程を調整できた成功率は最大でも0.1%だった。

よく聞かれる情報のうち、発表文の本文に書かれていないものがいくつかある。ライセンス名、コンテキスト長、Tinkerでの料金だ。11月5日公開のInkling 2 SmallはApache 2.0での公開が約束されていたが、Miniが同じ扱いになるかどうかは、モデルカードでの確認を待つ必要がある。

中国の開発者にとって、20GBという規模は32GBメモリのMacや主流の24GB VRAM搭載GPUの近辺に収まり、SGLang、vLLM、Ollamaはいずれも対応済みで、ローカルで動かすハードルは高くない。既存のQwen系小型モデルから置き換える前に、まず自分のタスクでマルチターン対話と中国語での性能を試しておくのが無難だ。この2点について、公式はデータを示していない。

参考資料:Thinking Machines Lab公式発表、CocoLoop、Hugging Faceモデルページ。パラメーター規模、メモリ使用量、各評価スコアは公式比較表に基づき、電力効率のデータはスタンフォードの研究室による測定基準。