Edge0, empresa de modelos para dispositivos locales, liberó el 12 de noviembre el código de Edge0-145B y Edge0-120B, junto con un marco de inferencia unificado y herramientas de despliegue. La compañía afirma que 145B es el primer modelo de código abierto para dispositivos locales que alcanza los 145.000 millones de parámetros; su objetivo es el portátil personal, sin necesidad de servidor.
En el lanzamiento admite macOS, Windows y Linux, y cubre los chips M de Apple y plataformas de Nvidia como RTX Spark, RTX 4090 y RTX 5090. Los pesos están en Hugging Face y el marco de inferencia en GitHub; además hay una aplicación de escritorio sin cuenta y sin límite de uso, cuyas funciones principales pueden usarse sin conexión.
Las pruebas se comparan con modelos en la nube de la clase «Flash»
Entre los resultados que publica Edge0, el modelo obtiene 64,6 en DeepSWE 1.1, frente a 58,7 de Qwen3.8-Flash-Next y 54,4 de DeepSeek-V4-Flash-0731. En Terminal-Bench 2.1 logra 86,52, por encima de los 83,3 y 82,7 de esos dos. En GPQA-Diamond saca 90,4, algo por debajo de los 90,8 de DeepSeek-V4-Flash-0731; en HLE, 35,4, también ligeramente por debajo de los 35,9 de Qwen3.8-Flash-Next.
Estas cifras tienen una condición: los resultados de Edge0, Qwen, DeepSeek y Claude proceden todos de evaluaciones internas de Edge0, y el entorno de pruebas completo y las instrucciones de reproducción se publicarán junto con el informe técnico. El Claude de la tabla comparativa es Opus 4.6 (Max), de una generación anterior; los modelos insignia actuales se renovaron hace tiempo. Hasta que haya pruebas independientes, la tabla debe tomarse solo como datos declarados por el fabricante.
Frente al modelo para móviles que la propia empresa lanzó antes, el salto es enorme. Edge0-35B, presentado en septiembre, usa unos 2,5 GB de memoria en el iPhone 18 Pro Max y supera los 37 tokens por segundo; 145B tiene unas cuatro veces más parámetros y se lleva al portátil. El modelo base de Apple para dispositivos locales ronda los 3B, y Gemini Nano de Google tiene dos versiones, de 1,8B y 3,25B; Edge0 cita estas cifras para indicar que los modelos locales solían quedarse por debajo de 10B.
Cómo caben 145.000 millones de parámetros en 29 GB
Un cálculo rápido: con la cuantización habitual de 4 bits, 145B parámetros requerirían unos 72 GB solo para los pesos, muy por encima de 29 GB. Edge0 plantea una solución en cuatro capas.
En la arquitectura, las matrices grandes se comparten. Cada 64 expertos comparten dos conjuntos de matrices grandes, y cada experto conserva solo un pequeño grupo de parámetros que describe su diferencia. Así se reduce la cantidad de pesos almacenados y movidos, sin cambiar el número de expertos. En cada paso de inferencia solo se activan unos 10B parámetros.
El entrenamiento sigue desde el principio la estructura para dispositivos locales. El modelo se entrenó desde el inicio con una arquitectura para dispositivos locales, sin seguir el camino de «entrenar primero un gran modelo en la nube y luego comprimir y podar».
La carga funciona como una canalización de almacenamiento de tres niveles. Los «expertos calientes», los más usados, se quedan en la memoria de vídeo; un banco de unos 40 GB de expertos reside en la memoria del sistema y se trae a la memoria de vídeo cuando hace falta; unos 48 GB de datos del vocabulario están en el SSD y se leen según se necesiten. La lectura y el cálculo se solapan para evitar esperas en serie.
En la planificación, CPU y GPU trabajan juntas. La GPU calcula los expertos en caché y la CPU procesa el resto en paralelo; con la decodificación especulativa, que verifica varios tokens candidatos a la vez, el coste de leer los pesos se reparte entre más salida.
Hay un punto que el blog no aclara: cómo se concilian los 29 GB de pico de memoria con el banco de unos 40 GB de expertos en la memoria del sistema, y si el recuento solo incluye la memoria de vídeo; el texto no lo explica. En el propio gráfico comparativo de Edge0 figura un portátil de 48 GB, así que quien quiera ejecutarlo en local hará bien en prepararse con 48 GB de memoria unificada.
Demostraciones y cifras de la empresa
Edge0 mostró varias demostraciones de agentes locales: producir un vídeo explicativo en una hora, montar una escena de Manhattan en Blender, escribir un programa para que un dron esquive obstáculos y encuentre una mochila roja, y pasar del diseño de una placa en KiCad a una animación de ensamblaje en UE5. Todas son pruebas internas de la empresa; el ahorro de mano de obra y de costes de tokens en la nube también es una conversión propia.
La compañía añade que sus cuatro series lanzaron 200 modelos en un año, que los modelos de código abierto superaron los 15 millones de descargas en tres meses y que a octubre había más de 110.000 organizaciones cliente. Estas cifras de escala proceden por ahora solo de la empresa y no pueden verificarse.
Fuentes: blog oficial de lanzamiento de Edge0, página del modelo en Hugging Face, CocoLoop, documentación del marco de inferencia de Edge0 en GitHub; todos los resultados de pruebas siguen la evaluación interna de Edge0, y los 29 GB son el pico de memoria medido por el fabricante.