Inkling 2 Mini es abierto y corre en un portátil

Open source illustration: hands joining branches to a shared node tree

Thinking Machines Lab lanzó el 20 de noviembre Inkling 2 Mini y publicó sus pesos completos. Es un modelo de mezcla de expertos con 26.4B de parámetros totales, de los que se activan 3.4B por token, y una ocupación total de memoria de unos 20GB. Según la compañía, es lo bastante pequeño para ejecutarse en un portátil. La solución local compatible en el lanzamiento es Ollama, y el requisito es cualquier Mac con al menos 32GB de memoria.

Los pesos ya están en Hugging Face. También se publicó una versión de bucle variable solo para investigación, llamada TML-d24-varloop-research.

Un “Transformer en bucle” que repite tres veces las capas centrales

La estructura de Inkling 2 Mini difiere de la de los modelos pequeños habituales. Almacena 24 capas, divididas en cuatro bloques de seis; el segundo y el tercero se repiten tres veces por cada token, de modo que cada token pasa en la práctica por 48 cálculos de capa. Los parámetros almacenados no aumentan, pero la profundidad de cómputo se duplica. Contando los bucles, la cantidad de pesos activados por token es de 5.4B.

El entrenamiento incluyó un paso de poda: el modelo tenía inicialmente 384 expertos, con 8 elegidos por token; a mitad del entrenamiento se eliminaron dos tercios, dejando en cada capa solo los 128 más utilizados, y la recuperación se hizo con 1 billón de tokens destilados de un modelo Inkling interno más grande. El posentrenamiento incluyó ajuste fino supervisado y aprendizaje por refuerzo con 2.2 billones de tokens en total.

En cuanto a la cuantización, el equipo afirma que el modelo usa directamente el formato NVFP4 desde el entrenamiento hasta el despliegue (las últimas 4 capas en MXFP8), por lo que no hay pérdida de precisión por conversión de cuantización. Las versiones GGUF pueden obtenerse a través de Unsloth y llama.cpp.

Todas las demostraciones oficiales se hicieron en un MacBook Pro (M5 Pro, 48GB de memoria) con el modo avión activado: un simulador de vuelo escrito en pocos minutos y un pueblo de píxeles con 20 agentes.

Comparación punto por punto con Qwen3.8-27B

La tabla comparativa oficial eligió cuatro modelos de tamaño similar: Gemma 4 31B, Muse Glimmer, Qwen3.8-27B y Nemotron 3.5 Super VL. El que más de cerca sigue a Inkling 2 Mini es Qwen3.8-27B.

EvaluaciónInkling 2 MiniQwen3.8-27B
DeepSWE v1.148.2%42.2%
SWE-bench Pro v2 Hard77.9%73.8%
MCP Atlas82.7%77.3%
ARC-AGI v249.3%42.4%
Terminal Bench v2.171.6%73.0%
MMMU Pro74.9%76.3%
AA-Omniscience (tasa de no alucinación)63.4%71.4%

En el índice de inteligencia de Artificial Analysis, ambos empatan con 20.1. El panorama general es este: en programación con agentes y uso de herramientas, Inkling 2 Mini va por delante; en manejo de terminal, comprensión multimodal y precisión del conocimiento, Qwen3.8-27B rinde mejor. Todas estas cifras proceden de la propia evaluación de Thinking Machines; la página señala que los ajustes de evaluación de cada modelo no son completamente iguales, y por ahora no hay reevaluaciones en clasificaciones de terceros.

La eficiencia energética es la única parte con participación de una entidad externa. Dos laboratorios de Stanford midieron, en un NVIDIA DGX Spark de 128GB, una puntuación de “inteligencia por vatio” de 0.703 para Inkling 2 Mini y de 0.430 para Qwen3.6-35B-A3B. En la prueba, Inkling usó MXFP8 y baja intensidad de razonamiento, mientras que los demás modelos usaron NVFP4 o INT4, por lo que las condiciones no son equivalentes.

Las limitaciones que la propia empresa enumera

El comunicado dedica una sección entera a las carencias, y no es breve.

El equipo reconoce que Inkling 2 Mini no es el mejor modelo pequeño en conversaciones de varios turnos ni en instrucciones con múltiples restricciones, con un 50.0% en MultiChallenge. En evaluaciones de razonamiento intenso como CritPt v2 y HLE-Diamond, queda por detrás de modelos más grandes. La estructura en bucle añade profundidad de cómputo, pero no puede almacenar más conocimiento, así que los resultados en evaluaciones de conocimiento quedan al nivel de modelos del mismo tamaño; el remedio que ofrece la compañía es que use más la búsqueda y las herramientas.

La evaluación de seguridad incluye además una cifra poco habitual: el modelo tiene un control muy bajo sobre su propia cadena de pensamiento; en el rango de 750 a 1250 tokens, la tasa de éxito al ajustar la cadena de pensamiento según las instrucciones es, como máximo, del 0.1%.

Varios datos que se preguntan con frecuencia no aparecen en el texto del comunicado: el nombre de la licencia, la longitud del contexto y el precio en Tinker. Inkling 2 Small, del 5 de noviembre, se comprometió entonces a publicarse bajo Apache 2.0; si Mini mantiene esa licencia dependerá de lo que confirme la ficha del modelo.

Para los desarrolladores en China, los 20GB quedan cerca de un Mac de 32GB de memoria y de las tarjetas gráficas habituales de 24GB de VRAM; SGLang, vLLM y Ollama ya lo admiten, de modo que la barrera para ejecutarlo en local no es alta. Antes de sustituir los modelos pequeños de Qwen que se usan ahora, lo más prudente es probar con las propias tareas las conversaciones de varios turnos y el rendimiento en chino, dos aspectos para los que la empresa no ha dado datos.

Fuentes: comunicado oficial de Thinking Machines Lab, CocoLoop, página del modelo en Hugging Face; el tamaño en parámetros, la ocupación de memoria y todas las puntuaciones proceden de la tabla comparativa oficial, y los datos de eficiencia energética siguen el criterio de los laboratorios de Stanford.