Thinking Machines Lab pada 20 November merilis Inkling 2 Mini dan membuka bobot lengkapnya. Ini adalah model mixture-of-experts dengan total parameter 26,4B, 3,4B di antaranya aktif untuk setiap token, dan penggunaan memori keseluruhan sekitar 20GB. Menurut pihak resmi, ukurannya cukup kecil untuk dijalankan di laptop. Opsi lokal yang didukung sejak peluncuran adalah Ollama, dengan syarat Mac mana pun yang memorinya tidak kurang dari 32GB.
Bobot model sudah tersedia di Hugging Face. Dirilis pula versi loop variabel khusus riset, TML-d24-varloop-research.
"Transformer berulang" yang menjalankan lapisan tengah tiga kali
Struktur Inkling 2 Mini berbeda dari model kecil pada umumnya. Model ini menyimpan 24 lapisan yang dibagi menjadi empat blok berisi enam lapisan. Blok kedua dan ketiga dijalankan berulang tiga kali untuk setiap token, sehingga setiap token sebenarnya melewati 48 kali komputasi lapisan. Jumlah parameter yang disimpan tidak bertambah, tetapi kedalaman komputasinya menjadi dua kali lipat. Jika perulangan dihitung, bobot yang diaktifkan per token mencapai 5,4B.
Proses pelatihannya mencakup satu langkah pemangkasan. Model awalnya memiliki 384 pakar dengan 8 dipilih per token. Di tengah pelatihan, dua pertiganya dipangkas sehingga setiap lapisan hanya menyisakan 128 pakar yang paling sering dipakai, lalu model dipulihkan dengan 1 triliun token hasil distilasi dari model Inkling internal yang lebih besar. Tahap pasca-pelatihan meliputi supervised fine-tuning dan reinforcement learning dengan total 2,2 triliun token.
Soal kuantisasi, tim menyatakan model ini dilatih hingga diterapkan langsung dalam format NVFP4 (4 lapisan terakhir memakai MXFP8), sehingga tidak ada penurunan akurasi akibat konversi kuantisasi. Versi GGUF bisa didapat lewat Unsloth dan llama.cpp.
Seluruh demo resmi dijalankan pada satu MacBook Pro (M5 Pro, memori 48GB) dalam mode pesawat: simulator penerbangan yang ditulis dalam beberapa menit, serta sebuah kota piksel yang dihuni 20 agen.
Adu per butir dengan Qwen3.8-27B
Tabel perbandingan resmi memilih empat model berukuran serupa: Gemma 4 31B, Muse Glimmer, Qwen3.8-27B, dan Nemotron 3.5 Super VL. Pesaing yang paling ketat bagi Inkling 2 Mini adalah Qwen3.8-27B.
| Evaluasi | Inkling 2 Mini | Qwen3.8-27B |
|---|---|---|
| DeepSWE v1.1 | 48,2% | 42,2% |
| SWE-bench Pro v2 Hard | 77,9% | 73,8% |
| MCP Atlas | 82,7% | 77,3% |
| ARC-AGI v2 | 49,3% | 42,4% |
| Terminal Bench v2.1 | 71,6% | 73,0% |
| MMMU Pro | 74,9% | 76,3% |
| AA-Omniscience tingkat non-halusinasi | 63,4% | 71,4% |
Pada Artificial Analysis Intelligence Index, keduanya sama-sama 20,1. Secara garis besar, Inkling 2 Mini unggul pada tugas pemrograman agentik dan pemanggilan alat, sedangkan Qwen3.8-27B lebih baik dalam operasi terminal, pemahaman multimodal, dan akurasi pengetahuan. Seluruh angka ini berasal dari evaluasi Thinking Machines sendiri. Halaman tersebut mencatat bahwa pengaturan evaluasi tiap model tidak sepenuhnya sama, dan hingga kini belum ada hasil uji ulang dari papan peringkat pihak ketiga.
Efisiensi energi adalah satu-satunya bagian yang melibatkan lembaga luar. Dua laboratorium Stanford mengukur skor "kecerdasan per watt" pada NVIDIA DGX Spark 128GB: Inkling 2 Mini memperoleh 0,703, sedangkan Qwen3.6-35B-A3B 0,430. Dalam pengujian itu Inkling memakai MXFP8 dengan intensitas penalaran rendah, sementara model lain memakai NVFP4 atau INT4, sehingga kondisinya tidak setara.
Kelemahan yang dicantumkan sendiri oleh pihak resmi
Pengumuman tersebut memuat satu bagian khusus tentang keterbatasan, dan panjangnya tidak sedikit.
Tim mengakui bahwa Inkling 2 Mini bukan model kecil terkuat untuk percakapan multi-giliran maupun instruksi dengan banyak batasan, dengan skor MultiChallenge 50,0%. Pada evaluasi yang menuntut penalaran berat seperti CritPt v2 dan HLE-Diamond, model ini tertinggal dari model yang lebih besar. Struktur berulang menambah kedalaman komputasi, tetapi tidak bisa menyimpan lebih banyak pengetahuan, sehingga skor pada evaluasi pengetahuan setara dengan model berukuran sama. Solusi yang ditawarkan pihak resmi adalah membuatnya lebih banyak memakai pencarian dan alat.
Bagian evaluasi keamanan memuat satu angka yang jarang ditemui: kemampuan model mengendalikan rantai pikirnya sendiri sangat rendah. Pada rentang 750 hingga 1.250 token, tingkat keberhasilan menyesuaikan rantai pikir sesuai instruksi paling tinggi hanya 0,1%.
Beberapa informasi yang sering ditanyakan tidak tertulis di badan pengumuman: nama lisensi, panjang konteks, dan harga di Tinker. Inkling 2 Small yang dirilis 5 November dijanjikan akan dibuka dengan Apache 2.0; apakah Mini mengikuti hal yang sama, masih harus menunggu konfirmasi dari model card.
Bagi pengembang di Tiongkok, ukuran 20GB berada di kisaran Mac dengan memori 32GB dan kartu grafis arus utama dengan VRAM 24GB. SGLang, vLLM, dan Ollama sudah mendukungnya, sehingga ambang untuk menjalankannya secara lokal tidak tinggi. Sebelum menggantikan model kecil Qwen yang sedang dipakai, lebih aman menguji dulu percakapan multi-giliran dan kinerja bahasa Mandarin dengan tugas Anda sendiri, karena pihak resmi tidak memberikan data untuk kedua hal tersebut.
Sumber: pengumuman resmi Thinking Machines Lab, CocoLoop, halaman model Hugging Face; skala parameter, penggunaan memori, dan semua skor evaluasi diambil dari tabel perbandingan resmi, sedangkan data efisiensi energi mengikuti metodologi laboratorium Stanford.