Moonshot AI, Tencent et Alibaba, trois des principaux développeurs de modèles chinois, ont fait la même chose avec leurs nouveaux modèles du dernier mois : abaisser la capacité offensive en cybersécurité tout en maintenant, voire en renforçant, la capacité défensive. Bloomberg a rapproché cette semaine ces lancements dans un même article et y voit un lien avec le projet de contrôle des exportations d’IA publié en octobre par le ministère du Commerce. Aucune des trois entreprises n’a publiquement associé sa démarche à ce projet.

Ce que chacune a fait
Moonshot AI a été la première à agir. Lors du lancement de Kimi K3.1 Pro à la fin octobre, l’entreprise a indiqué avoir retiré les données liées à la cybersécurité du corpus d’entraînement et des environnements d’apprentissage par renforcement, tout en conservant la capacité générale de programmation. Sur le benchmark interne d’attaque et de défense de l’entreprise, qui consiste à trouver et exploiter des failles logicielles dans un environnement contrôlé, K3.1 Pro obtient 81,0 %, alors que la version équivalente sans atténuation des risques atteint 90,5 %, ce qui reste un peu au-dessus de la génération précédente. Ces chiffres n’ont pas été vérifiés de manière indépendante.
"We aim not to release open weights that would extend the absolute frontier of cyber capability."
(Moonshot AI : nous ne comptons pas publier de poids ouverts qui repousseraient la frontière absolue des capacités cyber.)
Tencent a présenté Hunyuan Hy4 le 4 novembre et affirme que l’entraînement en cybersécurité ne sert qu’à la défense, par exemple repérer des défauts logiciels et aider à les corriger ; les contenus portant sur la fabrication d’outils de piratage, l’intrusion dans des systèmes et le sondage des faiblesses de systèmes ont été exclus. Tencent dit qu’après les tests de ses experts internes en sécurité, elle n’a pas constaté chez Hy4 de risque accru d’aider à pénétrer un logiciel ou à contourner des protections, ni de faciliter des expériences biologiques dangereuses. Tencent prévoit de publier les poids plus tard, accompagnés d’un rapport de tests de sécurité.
Alibaba a lancé Qwen4-Max le 16 novembre et indique avoir ajouté des contrôles de sécurité à l’entraînement, ce qui réduit des failles telles que l’injection de code, les défauts de sécurité mémoire et les ruptures de contrôle d’accès ; la protection contre les usages détournés liés à la cybercriminalité et aux substances dangereuses a aussi été renforcée, et les tests internes n’ont pas révélé de capacité à haut risque manifeste. L’article de Bloomberg ajoute que le modèle phare de cette génération n’a pas de poids ouverts : les utilisateurs ne peuvent pas télécharger la version complète pour la modifier eux-mêmes. Alibaba ne s’est pas exprimée séparément sur ce point.
Les lignes tracées par le projet
Le projet publié conjointement en octobre par le ministère du Commerce et le ministère des Sciences et des Technologies prévoit d’inscrire 23 technologies d’IA sur la liste de contrôle des exportations, couvrant les grands modèles, les agents, la conception de puces et les clusters de calcul. Pour les grands modèles, le contrôle porte sur les composants essentiels comme les poids et le code source ; le seuil est fixé à au moins 2 000 milliards de paramètres, ou à une place parmi les dix premiers mondiaux lors de tests de performance, de sécurité et d’autres critères. Parmi les risques cités expressément par le projet figurent la génération et la mutation de logiciels malveillants par l’IA, ainsi que les outils de découverte de vulnérabilités assistés par l’IA, qui pourraient servir à attaquer des infrastructures critiques, l’industrie de défense et les systèmes centraux de l’État.
Les exemptions sont elles aussi clairement énoncées. Le code open source et les recherches déjà publiées ne sont pas concernés ; fournir des services à des utilisateurs à l’étranger via des applications, des sites web et des API reste autorisé. Faire tourner un modèle contrôlé sur des serveurs à l’étranger est considéré comme une exportation, mais les entreprises qui l’exécutent sur leur propre cloud à l’étranger obtiennent automatiquement une licence. La consultation publique s’est achevée le 15 novembre, et la date de la version définitive n’a pas encore été annoncée.
Par rapport au seuil, K3.1 Pro se présente comme un modèle de l’ordre de 3 000 milliards de paramètres, et l’ossature de Qwen4-Max compte 2 400 milliards de paramètres ; tous deux se situent au-dessus de la barre des 2 000 milliards.
Pour les développeurs et les équipes de sécurité en Chine
Si la version définitive reste proche du projet, l’impact le plus direct concernera deux catégories de personnes.
La première regroupe les équipes qui s’appuient sur des poids ouverts pour des développements ultérieurs. Pour les modèles au-dessus du seuil, la poursuite de la diffusion des poids à l’étranger dépendra d’une licence ; quant à la possibilité de les télécharger normalement en Chine, le projet ne le dit pas directement, il faudra attendre la version définitive et ses précisions ultérieures. Moonshot AI a déjà choisi de réduire les capacités avant de publier les poids, et Tencent dit aussi que les poids viendront plus tard ; les prochains lancements montreront si ces deux voies deviennent la pratique par défaut du secteur.
La seconde regroupe les professionnels de la sécurité qui font des tests d’intrusion et des exercices de red team. Ceux qui utilisaient auparavant des modèles ouverts pour aider à écrire du code d’exploitation et à vérifier des vulnérabilités trouveront les nouvelles versions des modèles chinois plus prudentes sur ce terrain. Pour les tâches défensives, comme la revue de code, la recherche de défauts et la rédaction de correctifs, les trois entreprises disent avoir conservé, voire renforcé, la capacité ; l’effet réel reste à confirmer par des évaluations tierces.
Un point de comparaison : aux États-Unis, OpenAI réserve ses modèles de cybersécurité les plus puissants à des défenseurs sélectionnés, dans le cadre d’un programme avec processus de vérification. La voie que les entreprises chinoises ont rendue publique jusqu’ici consiste à supprimer la capacité offensive dès la phase d’entraînement. Quant à l’efficacité de chaque approche, on ne dispose pour l’instant que des déclarations des entreprises elles-mêmes.
Sources : Bloomberg, articles de Reuters sur Hy4 de Tencent et Kimi K3.1 Pro, CocoLoop, The Next Web ; les scores du benchmark d’attaque et de défense reposent sur la mesure propre de Moonshot AI, et le nombre d’éléments de la liste de contrôle ainsi que le seuil de paramètres reposent sur le projet soumis à consultation par le ministère du Commerce et le ministère des Sciences et des Technologies.