ModelBest (Mianbi Zhineng en chinois) et la communauté OpenBMB ont lancé officiellement le 13 octobre le modèle multimodal MiniCPM-V 4.7, en deux versions à la fois : 35B-A3B et 1B. La première est le premier modèle à mélange d'experts (MoE) de la série MiniCPM-V, avec environ 35 milliards de paramètres au total dont seulement environ 3 milliards activés à chaque inférence ; la seconde vise les smartphones d'entrée de gamme.
Les chiffres officiels côté appareil : le 35B-A3B occupe environ 3 Go de mémoire sur l'iPhone 17 Pro Max, avec une vitesse de décodage de plus de 13 tokens par seconde. Le code et les poids sont sous licence Apache-2.0, d'après la mention en pied de page du dépôt GitHub.
35 Md dans 3 Go : tout repose sur la planification anticipée des experts
Le problème des modèles MoE, c'est que le nombre total de paramètres est énorme alors que chaque étape n'en utilise qu'une petite fraction. Sur un serveur, tout tient dans la mémoire vidéo ; sur un téléphone, non. Il faut lire depuis le stockage les experts nécessaires au fil du calcul, et si la lecture est lente, l'appareil saccade.
La solution de ModelBest s'appelle LES (Look-ahead Expert Scheduling, planification anticipée des experts). D'après la description sur la page GitHub, elle fait trois choses :
- elle prédit le routage entre les couches pour charger d'avance les experts qui seront probablement utilisés par la couche suivante ;
- dans la couche en cours, elle calcule en priorité les experts déjà en mémoire et sélectionnés par le routeur ;
- elle associe la quantification des poids à une organisation du stockage repensée, pour réduire la taille et accélérer la lecture.
L'entreprise affirme que cette méthode apporte une accélération d'environ 5 fois sur appareil réel. Une technique plus ancienne est reconduite : la partie vision compresse les tokens d'image de façon mixte, par 4 et par 16, ce qui figurait déjà dans MiniCPM-V 4.6, sorti en mai.
Un développeur indépendant avait auparavant examiné le fichier de configuration du modèle : 40 couches, dont 30 à attention linéaire et 10 à attention complète, 8 experts choisis parmi 256 pour chaque token, contexte de 256K. Les poids en BF16 totalisent environ 70,4 Go. Autrement dit, les 3 Go correspondent à l'occupation en exécution après quantification et chargement à la demande ; vouloir le lancer sans quantification dépasserait même les capacités d'un ordinateur ordinaire.
Les scores ne se comparent qu'à gabarit égal
Selon ModelBest, le 35B-A3B a été évalué sur 34 benchmarks couvrant la vision générale, le raisonnement STEM, l'OCR et les graphiques, ainsi que les vidéos longues. En mode Instruct, son score global dépasse celui de Qwen3.6-35B-A3B, de même gabarit 35B-A3B, avec un temps d'inférence plus court, et sur certains items il devance Qwen 27B et Gemma-4 31B. La version 1B est comparée à Qwen3.5 0.8B, avec un meilleur score global et une meilleure efficacité d'inférence.
Tout cela relève de chiffres déclarés par le constructeur. Le tableau de résultats sur GitHub est une image, les articles de presse ne détaillent pas non plus les scores précis, et aucune reproduction indépendante n'a été vue pour l'instant.
La publication a aussi connu un petit épisode. D'après les relevés d'un développeur indépendant, les poids du 35B-A3B sont apparus sur Hugging Face dès le soir du 6 octobre, sans fiche de modèle, sans licence et sans données d'évaluation ; les informations n'ont été complétées que vers le 12 octobre.
Pour les développeurs en Chine, où se situe la barrière
Cette fois, ModelBest a publié une très longue liste de compatibilité : côté systèmes, iOS, Android et HarmonyOS ; côté puces, Intel, AMD, Arm, Rockchip et Houmo AI. La présence de Rockchip et de Houmo AI montre que la cible ne se limite pas aux téléphones, mais inclut aussi les boîtiers en périphérie, les robots et les équipements embarqués dans les véhicules du pays, des cas d'usage où l'on ne peut souvent pas appeler un grand modèle dans le cloud par le réseau.
Une méthode de fine-tuning baptisée SRFT (Self-Replay Fine-Tuning) a été ouverte en même temps ; selon l'entreprise, elle étend les capacités à faible coût tout en limitant l'oubli de celles que le modèle possède déjà. Pour les équipes qui veulent personnaliser le modèle sur leurs propres appareils, c'est plus utile qu'un simple jeu de poids.
Plusieurs points demandent toutefois de la prudence :
- Les 13 tokens par seconde ont été mesurés sur l'iPhone 17 Pro Max ; certains médias citent plus de 15 tokens par seconde sur l'iPad Pro. Pour les Android de milieu de gamme et les appareils HarmonyOS, l'entreprise n'a pas encore donné de chiffres.
- Les 3 Go sont de la mémoire d'exécution ; le fichier du modèle occupe toujours le stockage du téléphone, et sa taille exacte après quantification dépendra des fichiers officiels.
- La liste indique « compatible » ; savoir si les frameworks d'inférence et les formats de quantification de chaque plateforme sont déjà prêts à l'emploi, c'est aux développeurs de le vérifier un par un.
Au fil des générations de MiniCPM-V, ModelBest a toujours suivi la ligne « peu de paramètres, directement sur le téléphone ». En amenant le MoE sur l'appareil, il s'agit, du point de vue de la structure des paramètres, d'une autre répartition entre le total de paramètres et la mémoire du téléphone : le total grossit, mais ce qui est utilisé à chaque étape reste autour de 3 milliards. Deux points à suivre : LES pourra-t-il maintenir sa vitesse sur des appareils dotés de moins de mémoire, et des évaluations tierces parviendront-elles à reproduire ces 34 résultats.
Sources : dépôt GitHub OpenBMB MiniCPM-V (principe de LES, plateformes compatibles, licence) ; ITHome ; CocoLoop ; Ifeng Tech ; page du modèle et fichier de configuration sur Hugging Face (couches, experts, taille des poids).