Thinking Machines veröffentlichte Inkling-Small am 30. Juli. Das Modell hat 276B Gesamtparameter und 12B aktive Parameter, nimmt Text, Bilder und Audio entgegen und wird mit offenen Gewichten bereitgestellt.
Laut offizieller Veröffentlichung wurde Inkling-Small nach Inkling trainiert und profitierte von einer überarbeiteten Datenmischung sowie einem neuen Trainingsrezept. Hinzu kamen on-policy distillation mit Inkling als Lehrer und zwei Wochen agentic-coding RL.
“Inkling-Small’s combination of broad performance and efficiency will make it easy to experiment with and test in real applications.”
Kleiner heißt hier: eher betreibbar
Die Model Card nennt einen 42-Layer decoder-only Transformer mit sparse MoE. Jeder Token wird zu 6 von 256 Experten plus 2 gemeinsamen Experten geroutet. Der Kontext reicht bis 1M Tokens, die Lizenz ist Apache 2.0.
vLLM Recipes setzt für NVFP4 mindestens 180GB aggregierten VRAM an, für BF16 mindestens 600GB. Das ist keine Laptop-Klasse, aber deutlich zugänglicher als die von 36Kr/Xinzhiyuan beschriebene Multi-Terabyte-Spur des ursprünglichen Inkling.
Starke Werte, aber kein Freifahrtschein
In der offiziellen Tabelle erreicht Inkling-Small 80.2% auf SWE-bench Verified, 64.7% auf Terminal Bench 2.1, 31.6% auf HLE text only und 40.1% auf ARC-AGI-2. Damit liegt es dort jeweils vor Inkling.
Artificial Analysis ordnet es nüchterner ein: Intelligence Index 40, ein Punkt unter Inkling mit 41. Zugleich bleiben faktisches Wissen und einzelne agentische Aufgaben schwächer.
Jetzt zählt die externe Nutzung
Thinking Machines liefert Gewichte, Model Card, Hugging Face und Wege über vLLM/SGLang zusammen. Entscheidend wird, ob Teams es stabil auf 180GB/600GB-Konfigurationen betreiben, für eigene Codebasen feinabstimmen und die Coding- sowie Multimodal-Vorteile außerhalb der offiziellen Harnesses bestätigen können.
Quellen: 36Kr/Xinzhiyuan, Thinking Machines Release, CocoLoop, Inkling-Small Model Card, Artificial Analysis, Hugging Face und vLLM Recipes; offizielle Quellen prüfen Release-Knoten, Parameter, Lizenz, Kontext, Training und Benchmark-Umfang, Drittquellen prüfen Deploymentschwellen und unabhängige Scores.