Edge0, spécialiste des modèles embarqués, a publié le 12 novembre en open source Edge0-145B et Edge0-120B, ainsi qu'un framework d'inférence unifié et des outils de déploiement. L'entreprise affirme que le 145B est le premier modèle embarqué open source à atteindre 145 milliards de paramètres ; il vise l'ordinateur portable personnel, sans serveur.
Au lancement, macOS, Windows et Linux sont pris en charge, avec les puces Apple de la série M et des plateformes Nvidia comme RTX Spark, RTX 4090 et RTX 5090. Les poids sont sur Hugging Face, le framework d'inférence sur GitHub, et une application de bureau sans compte ni limite de quota est proposée, dont les fonctions essentielles marchent hors ligne.
Des scores comparés aux modèles cloud de classe « Flash »
Parmi les résultats publiés par Edge0, le modèle obtient 64,6 sur DeepSWE 1.1, contre 58,7 pour Qwen3.8-Flash-Next et 54,4 pour DeepSeek-V4-Flash-0731. Sur Terminal-Bench 2.1, il atteint 86,52, devant les 83,3 et 82,7 de ces deux modèles. GPQA-Diamond affiche 90,4, un peu en dessous des 90,8 de DeepSeek-V4-Flash-0731 ; HLE, 35,4, également un peu sous les 35,9 de Qwen3.8-Flash-Next.
Ces scores reposent sur une réserve : les résultats d'Edge0, de Qwen, de DeepSeek et de Claude proviennent tous d'évaluations internes d'Edge0, et l'environnement de test complet ainsi que les instructions de reproduction doivent être publiés avec le rapport technique. Le Claude du tableau comparatif est Opus 4.6 (Max), d'une génération plus ancienne ; les modèles phares actuels ont été renouvelés depuis longtemps. Tant qu'aucun test indépendant n'a été fait, ce tableau ne vaut que comme chiffres déclarés par le constructeur.
Par rapport au précédent modèle pour smartphone de la même société, le saut est considérable. Edge0-35B, lancé en septembre, occupe environ 2,5 Go de mémoire sur l'iPhone 18 Pro Max et dépasse 37 tokens par seconde ; le 145B compte environ quatre fois plus de paramètres et vise le portable. Le modèle de base embarqué d'Apple compte environ 3B de paramètres, et Gemini Nano de Google existe en deux versions, 1,8B et 3,25B ; Edge0 cite ces deux chiffres pour montrer que les modèles embarqués restaient jusque-là sous la barre des 10B.
Comment 145 milliards de paramètres tiennent dans 29 Go
Un calcul rapide : en quantification 4 bits classique, 145B paramètres demandent à eux seuls environ 72 Go pour les poids, bien plus que 29 Go. Edge0 avance une solution en quatre couches.
Côté architecture, de grandes matrices sont partagées. Tous les 64 experts, deux grands jeux de matrices sont mis en commun, et chaque expert ne conserve qu'un petit jeu de paramètres décrivant sa différence. La quantité de poids stockés et déplacés diminue, sans toucher au nombre d'experts. Seuls environ 10B paramètres sont activés à chaque étape d'inférence.
L'entraînement suit dès le départ la structure embarquée. Le modèle a été entraîné dès l'origine sur une architecture embarquée, sans suivre la voie « entraîner d'abord un grand modèle cloud, puis le compresser et l'élaguer ».
Le chargement fonctionne en pipeline de stockage à trois niveaux. Les « experts chauds », les plus sollicités, restent dans la mémoire vidéo ; une réserve d'environ 40 Go d'experts se trouve en mémoire système et est appelée vers la mémoire vidéo à la demande ; environ 48 Go de données de vocabulaire sont sur le SSD et lus selon les besoins. Lecture et calcul se chevauchent pour éviter les attentes en série.
Côté ordonnancement, CPU et GPU travaillent ensemble. Le GPU calcule les experts en cache pendant que le CPU traite le reste en parallèle ; avec le décodage spéculatif, qui vérifie plusieurs tokens candidats d'un coup, le coût de lecture des poids est réparti sur davantage de sorties.
Un point reste flou dans le billet de blog : comment concilier le pic de mémoire de 29 Go avec la réserve d'environ 40 Go d'experts placée en mémoire système, et si le décompte ne porte que sur la mémoire vidéo. Le texte ne l'explique pas. Dans le graphique comparatif d'Edge0 lui-même, c'est un portable de 48 Go qui est indiqué ; ceux qui veulent l'exécuter en local feraient mieux de prévoir 48 Go de mémoire unifiée.
Démonstrations et chiffres de l'entreprise
Edge0 a présenté plusieurs démonstrations d'agents locaux : réaliser une vidéo explicative en une heure, monter une scène de Manhattan dans Blender, écrire un programme pour qu'un drone évite des obstacles et retrouve un sac à dos rouge, et passer de l'implantation d'une carte dans KiCad à une animation d'assemblage dans UE5. Il s'agit de tests internes à l'entreprise ; les économies de main-d'œuvre et de coûts de tokens cloud sont aussi des conversions faites par elle-même.
L'entreprise indique en outre que ses quatre séries ont publié 200 modèles en un an, que les modèles open source ont dépassé 15 millions de téléchargements en trois mois et qu'on comptait plus de 110 000 organisations clientes à fin octobre. Ces chiffres d'échelle ne reposent pour l'instant que sur la parole de l'entreprise et ne peuvent pas être vérifiés.
Sources : blog officiel de lancement d'Edge0, page du modèle sur Hugging Face, CocoLoop, documentation du framework d'inférence Edge0 sur GitHub ; tous les scores relèvent de l'évaluation interne d'Edge0, et les 29 Go correspondent au pic de mémoire mesuré par le constructeur.