Un rapport de recherche tout juste publié affirme que les poids de six modèles open source sortis cette année par DeepSeek, Moonshot AI, MiniMax et Ant Group conservent des traces d’initialisation des GPU de la série Blackwell de Nvidia. L’auteur du rapport est Will DePue, responsable de l’organisation de recherche à but non lucratif Unemployment Labs, qui, selon TechCrunch, a travaillé comme chercheur chez OpenAI. Blackwell fait partie des puces dont les États-Unis interdisent l’exportation vers la Chine.
D’où vient l’empreinte
La méthode s’intéresse à l’étape qui précède le début de l’entraînement : l’initialisation aléatoire. Lorsque PyTorch génère les poids initiaux sur le GPU, il utilise l’algorithme de nombres aléatoires Philox, et l’emplacement de chaque valeur dépend du nombre de multiprocesseurs de flux (SM) et de threads de la carte. Chaque génération de puces a une configuration différente : les B200/B300 comptent 148 SM et 303104 threads, les GB200/GB300 152 SM et 311296 threads, et la génération précédente, Hopper, 132 SM.
L’auteur a exploré environ 6 000 milliards de combinaisons « graine + disposition », puis les a confrontées à des poids qui n’avaient pas participé à la recherche. L’entraînement modifie la plupart des poids, mais une partie des lignes conserve toujours sa valeur initiale. Selon le rapport, avec un PyTorch non modifié, on peut reproduire ces lignes de DeepSeek-V3 sur un H100 et celles de DeepSeek-V4-Flash sur un B300 ; en intervertissant les deux, rien ne correspond. Sur un GB200 loué, les lignes conservées de Kimi K3 ont également pu être reproduites.
Six modèles, une ligne de partage
Les six modèles cités dans le rapport sont DeepSeek-V4-Flash, DeepSeek-V4-Pro, Kimi K3, Kimi K3.1-Pro, MiniMax-M3 et Ling-3.1-flash d’Ant. La significativité statistique va de 49 à 1385 sigmas, alors que le seuil aléatoire donné par l’auteur est d’environ 8 sigmas.
Si l’on aligne les dates de sortie de ces entreprises, la frontière est plutôt nette. Les modèles de la génération précédente, comme DeepSeek-V3, Kimi K2.5, MiniMax-M2.7 et Ling-3.0-flash, ressortent tous en Hopper ; la nouvelle génération, sortie progressivement à partir d’avril 2026, est passée à une empreinte Blackwell. Kimi K2.7-Code se situe entre les deux, avec un résultat mitigé, et n’a pas été comptabilisé.
Chez les autres entreprises, le tableau est différent. Pour les modèles de Qwen (Tongyi Qianwen), Zhipu GLM, Tencent, Xiaomi et StepFun, le rapport mesure toujours du Hopper ; pour LongCat-2.0 de Meituan, aucune empreinte de GPU n’a été détectée, et Meituan avait indiqué auparavant l’avoir entraîné sur un « supernœud AI ASIC ». Dans le périmètre couvert par le rapport, les traces de Blackwell se concentrent chez quatre entreprises et ne concernent pas l’ensemble de l’écosystème open source chinois.
Le rapport estime aussi l’échelle en GPU de la dernière phase d’entraînement : environ 4500 cartes pour Kimi K3 (meilleure estimation), environ 3000 pour DeepSeek-V4-Pro et autour de 1500 pour les autres, soit au total environ 12 000 cartes ; à quelque 70 000 dollars pièce, le plus gros cluster représenterait entre 200 et 300 millions de dollars. L’auteur dit sans détour qu’il n’est pas certain de cette estimation, qui dépend d’hypothèses comme le taux d’utilisation de la puissance de calcul, le nombre de tokens d’entraînement et la durée de l’entraînement ; les chiffres de la première version du rapport ont d’ailleurs été corrigés une fois le jour même de sa publication.
Les limites fixées par le rapport lui-même
Ce que cette étude permet d’établir est limité, et l’auteur le détaille avec précision dans le texte. L’empreinte enregistre seulement sur quel type de puce les poids initiaux ont été générés ; un modèle peut très bien être initialisé sur un système puis entraîné sur un autre. L’AMD MI300X pourrait aussi, en théorie, imiter ces dispositions ; l’auteur ne l’a écartée numériquement que pour DeepSeek-V4-Flash et juge l’hypothèse « extrêmement improbable » pour les cinq autres.
Point plus sensible : la méthode ne peut pas dire à qui appartiennent les puces ni où elles se trouvent. Des serveurs Blackwell peuvent être loués dans des centres de données situés hors de Chine ; selon les termes du rapport, les éléments recueillis ne prouvent ni que des puces ont été introduites en contrebande en Chine, ni qu’il y a eu violation des contrôles à l’exportation. Pour la phase d’entraînement, la formulation du rapport laisse elle aussi une marge :
« supports, without proving, the inference that Blackwell also performed the training »
(étaye, sans la prouver, l’hypothèse selon laquelle Blackwell a aussi réalisé l’entraînement.)
Cette méthode ne s’applique qu’aux modèles à poids ouverts ; les modèles fermés ne peuvent pas être vérifiés. L’article de TechCrunch ne contient aucune réaction des entreprises chinoises ni de Nvidia, et le département américain du Commerce ne s’est pas non plus exprimé sur l’étude : ces affirmations ne peuvent donc pas, pour l’instant, être vérifiées auprès des parties concernées.
La semaine de la publication du rapport, le département américain du Commerce aurait été en train de finaliser des règles destinées à limiter l’usage à distance de puces avancées par les entreprises chinoises d’IA via des centres de données à l’étranger. Si la règle est adoptée, la location de Blackwell à l’étranger serait la première voie touchée ; et cette étude offre un moyen de vérification qui se passe d’informations internes et ne repose que sur des poids publics. Lorsque la prochaine vague de modèles ouverts publiera ses poids, il est probable que quelqu’un refasse le même test.
Sources : TechCrunch, CocoLoop, rapport de recherche Checkpoint Forensics d’Unemployment Labs ; le texte du rapport a servi à vérifier la liste des six modèles, les nombres de SM et de threads, les intervalles de sigma et la méthode d’estimation des GPU.