Thinking Machines Lab hat am 20. November Inkling 2 Mini veröffentlicht und die vollständigen Gewichte offengelegt. Es handelt sich um ein Mixture-of-Experts-Modell mit insgesamt 26.4B Parametern, von denen pro Token 3.4B aktiviert werden; der gesamte Speicherbedarf liegt bei rund 20GB. Nach Angaben des Unternehmens ist das Modell klein genug, um auf einem Laptop zu laufen. Als lokale Lösung wird zum Start Ollama unterstützt, Voraussetzung ist ein beliebiger Mac mit mindestens 32GB Arbeitsspeicher.
Die Gewichte liegen bereits auf Hugging Face. Zugleich erschien eine ausschließlich für die Forschung gedachte Variante mit variabler Schleife namens TML-d24-varloop-research.
Ein „Loop-Transformer“, der die mittleren Schichten dreimal durchläuft
Die Architektur von Inkling 2 Mini unterscheidet sich von gängigen kleinen Modellen. Gespeichert sind 24 Schichten, aufgeteilt in vier Blöcke zu je sechs Schichten; der zweite und der dritte Block werden pro Token dreimal wiederholt, sodass jeder Token effektiv 48 Schichtberechnungen durchläuft. Die Zahl der gespeicherten Parameter wächst nicht, die Rechentiefe verdoppelt sich. Rechnet man die Schleifen mit, liegt die Menge der aktivierten Gewichte pro Token bei 5.4B.
Im Training gab es einen Pruning-Schritt: Anfangs hatte das Modell 384 Experten, von denen pro Token 8 gewählt wurden; mitten im Training wurden zwei Drittel gestrichen, sodass pro Schicht nur die 128 am häufigsten genutzten blieben. Zur Erholung dienten 1 Billion Token, die aus einem größeren internen Inkling-Modell destilliert wurden. Das Post-Training umfasste überwachtes Feintuning und Reinforcement Learning mit insgesamt 2.2 Billionen Token.
Zur Quantisierung teilt das Team mit, das Modell nutze vom Training bis zum Einsatz direkt das NVFP4-Format (die letzten 4 Schichten in MXFP8), weshalb keine Genauigkeitsverluste durch Quantisierungskonvertierung entstünden. GGUF-Versionen sind über Unsloth und llama.cpp erhältlich.
Alle offiziellen Demos liefen auf einem MacBook Pro (M5 Pro, 48GB Arbeitsspeicher) im Flugmodus: ein Flugsimulator, der in wenigen Minuten entstand, sowie eine Pixelstadt mit 20 Agenten.
Punkt für Punkt gegen Qwen3.8-27B
Die offizielle Vergleichstabelle wählt vier Modelle ähnlicher Größe: Gemma 4 31B, Muse Glimmer, Qwen3.8-27B und Nemotron 3.5 Super VL. Am dichtesten an Inkling 2 Mini liegt dabei Qwen3.8-27B.
| Benchmark | Inkling 2 Mini | Qwen3.8-27B |
|---|---|---|
| DeepSWE v1.1 | 48.2% | 42.2% |
| SWE-bench Pro v2 Hard | 77.9% | 73.8% |
| MCP Atlas | 82.7% | 77.3% |
| ARC-AGI v2 | 49.3% | 42.4% |
| Terminal Bench v2.1 | 71.6% | 73.0% |
| MMMU Pro | 74.9% | 76.3% |
| AA-Omniscience (Rate ohne Halluzinationen) | 63.4% | 71.4% |
Beim Intelligence Index von Artificial Analysis liegen beide mit 20.1 gleichauf. Grob verteilt sich das Bild so: Bei agentischem Programmieren und Werkzeugaufrufen ist Inkling 2 Mini vorn, bei Terminal-Bedienung, multimodalem Verständnis und Wissensgenauigkeit schneidet Qwen3.8-27B besser ab. Alle Zahlen stammen aus Thinking Machines’ eigener Auswertung; die Seite weist darauf hin, dass die Testbedingungen der Modelle nicht vollständig übereinstimmen, und bislang gibt es keine Nachtests unabhängiger Ranglisten.
Die Energieeffizienz ist der einzige Teil mit externer Beteiligung. Zwei Stanford-Labore ermittelten auf einem NVIDIA DGX Spark mit 128GB für Inkling 2 Mini einen Wert von 0.703 für „Intelligenz pro Watt“, für Qwen3.6-35B-A3B 0.430. Bei dem Test nutzte Inkling MXFP8 und geringe Reasoning-Intensität, die anderen Modelle NVFP4 oder INT4 – die Bedingungen sind also nicht gleich.
Die vom Hersteller selbst genannten Schwächen
Die Ankündigung enthält einen eigenen Abschnitt zu den Defiziten, und er fällt nicht kurz aus.
Das Team räumt ein, dass Inkling 2 Mini nicht das stärkste kleine Modell bei Mehrrunden-Dialogen oder Anweisungen mit mehreren Nebenbedingungen ist; bei MultiChallenge erreicht es 50.0%. Bei reasoning-intensiven Benchmarks wie CritPt v2 und HLE-Diamond liegt es hinter größeren Modellen. Die Schleifenstruktur erhöht die Rechentiefe, kann aber nicht mehr Wissen speichern; deshalb entsprechen die Ergebnisse bei Wissensbenchmarks denen gleich großer Modelle. Als Abhilfe empfiehlt das Unternehmen, das Modell verstärkt Suche und Werkzeuge nutzen zu lassen.
Die Sicherheitsbewertung enthält zudem eine seltene Zahl: Das Modell kann seine eigene Gedankenkette kaum steuern; im Bereich von 750 bis 1250 Token liegt die Erfolgsquote, die Gedankenkette gezielt nach Anweisung anzupassen, höchstens bei 0.1%.
Einige häufig gestellte Fragen beantwortet der Ankündigungstext nicht: Name der Lizenz, Kontextlänge und Preise auf Tinker. Inkling 2 Small vom 5. November war damals unter Apache 2.0 zugesagt worden; ob Mini dabei bleibt, muss die Modellkarte bestätigen.
Für Entwickler in China liegen die 20GB nahe an einem Mac mit 32GB Arbeitsspeicher und gängigen Grafikkarten mit 24GB VRAM; SGLang, vLLM und Ollama werden bereits unterstützt, die Hürde für den lokalen Betrieb ist also niedrig. Bevor man damit bestehende kleine Qwen-Modelle ersetzt, ist es ratsam, Mehrrunden-Dialoge und die Leistung auf Chinesisch an eigenen Aufgaben zu testen – für beides nennt das Unternehmen keine Daten.
Quellen: offizielle Ankündigung von Thinking Machines Lab, CocoLoop, Modellseite auf Hugging Face; Parametergröße, Speicherbedarf und alle Benchmark-Werte stammen aus der offiziellen Vergleichstabelle, die Effizienzdaten aus den Messungen der Stanford-Labore.