Thinking Machines は7月30日、Inkling-Small を公開した。総パラメータは 276B、推論時に使う有効パラメータは 12B。テキスト、画像、音声を入力でき、オープンウェイトとして提供される。
公式発表によると、同モデルは Inkling より後に訓練が始まったため、データ配合と訓練レシピを見直せた。さらに Inkling を教師にした on-policy distillation と、2週間のエージェント型コーディングRLを加えている。
“Inkling-Small’s combination of broad performance and efficiency will make it easy to experiment with and test in real applications.”
小型化の意味は、実行可能性にある
モデルカードでは、42層の decoder-only Transformer、256専門家のうち6専門家へルーティングする疎な MoE、2つの共有専門家、最大 100万 token のコンテキスト、Apache 2.0 ライセンスが確認できる。
ただし個人PC向けではない。vLLM Recipes は NVFP4 で最低 180GB、BF16 で最低 600GB の集約VRAMを示している。それでも36Kr/新智元が触れた初代 Inkling の2TB級構成より、評価に入れるチームは増える。
スコアは強いが万能ではない
公式モデルカードでは、SWE-bench Verified が 80.2%、Terminal Bench 2.1 が 64.7%、HLE text only が 31.6%、ARC-AGI-2 が 40.1%。いずれも同じ表の Inkling を上回る。
Artificial Analysis はより慎重に、Intelligence Index で 40 点、Inkling の 41 点に1点差と評価した。同時に、事実知識や一部のエージェントタスクでは旗艦に及ばないとも指摘している。
次の検証点
このリリースはウェイトだけでなく、モデルカード、Hugging Face、vLLM/SGLang の導線までそろえている。今後は、180GB/600GB級の構成で安定運用できるか、コードベースやRAGに合わせた微調整で閉鎖モデルAPIに勝てるか、外部ハーネスでも公式スコアに近づくかが見るべき点になる。
参考ソース：36Kr/新智元、Thinking Machines公式発表、CocoLoop、Inkling-Smallモデルカード、Artificial Analysis、Hugging Face、vLLM Recipes。公式資料で公開ノード、パラメータ、ライセンス、コンテキスト、訓練と評価条件を確認し、第三者資料で展開条件と独立スコアを確認した。