Thinking Machines merilis Inkling-Small pada 30 Juli. Model ini memiliki 276B parameter total dan 12B parameter aktif, menerima teks, gambar, dan audio, serta tersedia sebagai open weights.
Menurut rilis resmi, model ini dilatih setelah Inkling sehingga mendapat resep data dan training yang diperbaiki. Thinking Machines juga memakai on-policy distillation dari Inkling, lalu menambahkan dua minggu reinforcement learning untuk agentic coding.
“Inkling-Small’s combination of broad performance and efficiency will make it easy to experiment with and test in real applications.”
Lebih kecil, tetapi tetap butuh mesin serius
Model card mencatat arsitektur decoder-only Transformer 42 layer, MoE yang merutekan tiap token ke 6 dari 256 expert plus 2 shared expert, konteks hingga 1 juta token, dan lisensi Apache 2.0.
vLLM Recipes menyebut varian NVFP4 memerlukan minimal 180GB aggregate VRAM, sementara BF16 perlu minimal 600GB. Ini masih bukan kelas laptop, tetapi lebih masuk akal dibanding jejak awal Inkling yang dilaporkan 36Kr/Xinzhiyuan berada di kelas multi-terabyte.
Skor bagus, batasnya jelas
Dalam model card resmi, Inkling-Small mencetak 80.2% di SWE-bench Verified, 64.7% di Terminal Bench 2.1, 31.6% di HLE text only, dan 40.1% di ARC-AGI-2. Semua angka itu berada di atas Inkling pada tabel yang sama.
Artificial Analysis memberi pembacaan lebih hati-hati: skor Intelligence Index 40, hanya satu poin di bawah Inkling 41, tetapi masih lemah pada pengetahuan faktual dan beberapa tugas agentic.
Uji berikutnya ada di lapangan
Thinking Machines tidak hanya melepas bobot. Ia juga menyediakan model card, Hugging Face, serta jalur deployment vLLM dan SGLang. Hal yang perlu diuji sekarang adalah stabilitas di konfigurasi 180GB/600GB, hasil fine-tuning pada codebase sendiri, dan apakah skor coding serta multimodal dapat direplikasi di luar harness resmi.
Sumber: 36Kr/Xinzhiyuan, rilis Thinking Machines, CocoLoop, model card Inkling-Small, Artificial Analysis, Hugging Face, dan vLLM Recipes; sumber resmi memverifikasi titik rilis, parameter, lisensi, konteks, training, dan benchmark, sementara sumber pihak ketiga memverifikasi syarat deployment dan skor independen.