Thinking Machines Lab a publié le 20 novembre Inkling 2 Mini et rendu publics ses poids complets. C’est un modèle à mélange d’experts de 26.4B paramètres au total, dont 3.4B sont activés par token, pour une empreinte mémoire globale d’environ 20GB. Selon la société, il est assez petit pour tourner sur un portable. La solution locale prise en charge dès le lancement est Ollama, avec comme prérequis un Mac quelconque doté d’au moins 32GB de mémoire.
Les poids sont déjà disponibles sur Hugging Face. Une version à boucle variable réservée à la recherche, nommée TML-d24-varloop-research, a été publiée en même temps.
Un « Transformer à boucle » qui repasse trois fois par les couches centrales
La structure d’Inkling 2 Mini diffère de celle des petits modèles habituels. Il stocke 24 couches, réparties en quatre blocs de six ; les deuxième et troisième blocs sont répétés trois fois pour chaque token, si bien que chaque token traverse en pratique 48 calculs de couche. Le nombre de paramètres stockés n’augmente pas, mais la profondeur de calcul double. En comptant les boucles, la quantité de poids activés par token est de 5.4B.
L’entraînement comporte une étape d’élagage : le modèle comptait à l’origine 384 experts, dont 8 choisis par token ; en cours d’entraînement, les deux tiers ont été supprimés, ne conservant par couche que les 128 les plus utilisés, puis la récupération s’est appuyée sur 1 000 milliards de tokens distillés à partir d’un modèle Inkling interne plus grand. Le post-entraînement a combiné un réglage fin supervisé et un apprentissage par renforcement sur 2.2 mille milliards de tokens au total.
Côté quantification, l’équipe indique que le modèle utilise directement le format NVFP4 de l’entraînement au déploiement (les 4 dernières couches en MXFP8), de sorte qu’aucune perte de précision ne découle d’une conversion de quantification. Les versions GGUF sont accessibles via Unsloth et llama.cpp.
Toutes les démonstrations officielles ont été réalisées sur un MacBook Pro (M5 Pro, 48GB de mémoire) en mode avion : un simulateur de vol écrit en quelques minutes, ainsi qu’une petite ville en pixels peuplée de 20 agents.
Comparaison point par point avec Qwen3.8-27B
Le tableau comparatif officiel retient quatre modèles de taille voisine : Gemma 4 31B, Muse Glimmer, Qwen3.8-27B et Nemotron 3.5 Super VL. Celui qui colle de plus près à Inkling 2 Mini est Qwen3.8-27B.
| Évaluation | Inkling 2 Mini | Qwen3.8-27B |
|---|---|---|
| DeepSWE v1.1 | 48.2% | 42.2% |
| SWE-bench Pro v2 Hard | 77.9% | 73.8% |
| MCP Atlas | 82.7% | 77.3% |
| ARC-AGI v2 | 49.3% | 42.4% |
| Terminal Bench v2.1 | 71.6% | 73.0% |
| MMMU Pro | 74.9% | 76.3% |
| AA-Omniscience (taux de non-hallucination) | 63.4% | 71.4% |
Sur l’indice d’intelligence d’Artificial Analysis, les deux sont à égalité avec 20.1. La répartition générale est la suivante : Inkling 2 Mini est en tête pour la programmation agentique et l’appel d’outils, tandis que Qwen3.8-27B fait mieux sur les opérations en terminal, la compréhension multimodale et l’exactitude des connaissances. Tous ces chiffres proviennent de l’évaluation de Thinking Machines elle-même ; la page précise que les paramètres d’évaluation ne sont pas totalement identiques d’un modèle à l’autre, et il n’existe pour l’instant aucun nouveau test issu de classements tiers.
L’efficacité énergétique est la seule partie à laquelle un organisme extérieur a participé. Deux laboratoires de Stanford ont mesuré, sur un NVIDIA DGX Spark de 128GB, un score d’« intelligence par watt » de 0.703 pour Inkling 2 Mini, contre 0.430 pour Qwen3.6-35B-A3B. Lors du test, Inkling utilisait MXFP8 avec une faible intensité de raisonnement, tandis que les autres modèles utilisaient NVFP4 ou INT4 : les conditions ne sont donc pas équivalentes.
Les faiblesses listées par la société elle-même
L’annonce consacre une section entière aux lacunes, et elle n’est pas courte.
L’équipe reconnaît qu’Inkling 2 Mini n’est pas le meilleur petit modèle pour les conversations à plusieurs tours ni pour les consignes à contraintes multiples, avec un score de 50.0% sur MultiChallenge. Sur les évaluations de raisonnement intensif comme CritPt v2 et HLE-Diamond, il est distancé par des modèles plus grands. La structure à boucle ajoute de la profondeur de calcul, mais ne permet pas de stocker davantage de connaissances ; les résultats sur les évaluations de connaissances sont donc au niveau de modèles de même taille, et le remède proposé par la société est de lui faire utiliser davantage la recherche et les outils.
L’évaluation de sécurité contient en outre un chiffre peu courant : le modèle contrôle très mal sa propre chaîne de raisonnement ; dans la plage de 750 à 1250 tokens, le taux de réussite pour ajuster la chaîne de raisonnement selon les consignes ne dépasse pas 0.1%.
Plusieurs informations souvent demandées ne figurent pas dans le texte de l’annonce : le nom de la licence, la longueur de contexte et les tarifs sur Tinker. Inkling 2 Small, du 5 novembre, avait été promis sous licence Apache 2.0 ; savoir si Mini suit la même voie dépendra de la fiche du modèle.
Pour les développeurs en Chine, les 20GB se situent près d’un Mac de 32GB de mémoire et des cartes graphiques courantes de 24GB de VRAM ; SGLang, vLLM et Ollama le prennent déjà en charge, et le seuil pour le faire tourner en local n’est donc pas élevé. Avant de remplacer les petits modèles Qwen actuellement utilisés, il est plus prudent de tester sur ses propres tâches les conversations à plusieurs tours et les performances en chinois, deux points pour lesquels la société n’a fourni aucune donnée.
Sources : annonce officielle de Thinking Machines Lab, CocoLoop, page du modèle sur Hugging Face ; la taille en paramètres, l’empreinte mémoire et tous les scores d’évaluation proviennent du tableau comparatif officiel, et les données d’efficacité énergétique suivent la méthode des laboratoires de Stanford.