L'Administration chinoise du cyberespace (CAC) a publié le bilan de la deuxième phase de sa campagne spéciale « Qinglang – Mettre de l'ordre dans le chaos des applications d'IA ». Durant cette phase, plus de 5,61 millions de contenus illégaux ont été supprimés, plus de 49 000 comptes sanctionnés et plus de 2 400 sites web et applications non conformes retirés ; l'ensemble des plateformes a publié 46 bulletins de mise en conformité. Les autorités du cyberespace de Pékin, Shanghai, Zhejiang, Guangdong et d'autres régions ont participé à l'application concrète des mesures.
Les cibles de la deuxième phase diffèrent totalement de celles de la première : production et diffusion de fausses informations via l'IA, diffusion de contenus violents ou vulgaires, usurpation et imitation d'identité, atteinte aux droits des mineurs, activités d'« armées de commentaires » en ligne, ainsi que les contenus non conformes générés par les produits d'IA eux-mêmes.
Du blocage des produits au nettoyage des comptes
Cette campagne spéciale a été lancée fin avril de cette année, pour une durée de quatre mois, répartie en deux phases, centrée sur 14 catégories de problèmes prioritaires. En comparant les résultats des deux phases, le déplacement du centre de gravité saute aux yeux.
Selon le bilan de la première phase, plus de 14 000 produits d'IA non conformes ont été sanctionnés, plus de 1 300 produits d'IA non conformes retirés et 9 jeux de données ouverts non conformes supprimés — l'objectif visait la source technique : les grands modèles étaient-ils enregistrés conformément à la réglementation, les plateformes disposaient-elles d'une capacité de contrôle et de filtrage de sécurité suffisante, les corpus d'entraînement avaient-ils été empoisonnés, l'obligation de marquage des contenus synthétiques générés par IA était-elle appliquée. La cible des mesures était le produit lui-même.
Dans la deuxième phase, le nombre de produits sanctionnés est retombé à 2 400, tandis que celui des comptes sanctionnés a bondi de 26 000 à 49 000, soit près du double. Le volume d'informations supprimées est resté globalement stable entre les deux phases (plus de 6 millions contre plus de 5,61 millions), mais pour un volume de contenu comparable, le nombre de comptes impliqués a presque doublé. Un calcul approximatif montre qu'en première phase, chaque compte sanctionné était en moyenne associé à environ 230 informations non conformes, contre environ 115 en deuxième phase. La production par compte individuel diminue, tandis que le nombre de comptes impliqués augmente. C'est la configuration typique de « l'après-démocratisation de l'outil » : le seuil d'accès à la génération de contenu par IA a baissé, entraînant une baisse du coût de création massive de comptes pour diffuser du contenu, ce qui oblige la régulation à descendre à un niveau toujours plus granulaire.
La copie rendue par les plateformes
Du côté des plateformes de contenu, Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban et Taobao ont concentré leurs actions sur la capacité de détection : optimisation des modèles de reconnaissance multimodale, extension dynamique des bases de données de visages, de voix et d'échantillons non conformes, mise en service d'un système de contrôle facial en temps réel. Le fait que le visage et la voix aient été isolés spécifiquement pointe vers le problème le plus coriace de cette phase — l'usurpation et l'imitation d'identité, autrement dit le « deepfake » facial et vocal.
Du côté des produits d'IA, Doubao, Yuanbao, Qwen et Ernie Bot ont été nommément désignés et sommés de renforcer strictement le contrôle des contenus dès les corpus bruts, de limiter sévèrement la génération de contenus non conformes et de faire appliquer plus fermement l'obligation de marquage des contenus synthétiques générés par IA. La régulation intègre désormais à la fois le côté génération et le côté distribution dans son évaluation : que le modèle ne génère pas de contenu non conforme constitue la première barrière, que la plateforme parvienne à le détecter constitue la seconde, et les deux doivent laisser une trace vérifiable.
L'amont même de la chaîne de distribution n'a pas été épargné. Plusieurs grands fabricants de smartphones disposant de leur propre boutique d'applications ont été sommés d'établir des règles strictes d'admission des développeurs et des critères de mise en ligne, de procéder à des contrôles et retests par échantillonnage sur les applications déjà en ligne, afin de bloquer les applications non conformes dès l'entrée. Enregistrement des développeurs, mise en ligne des applications, génération de contenu, distribution de contenu, gestion des comptes — les cinq maillons ont chacun leur propre critère de traitement dans cette phase.
Où se déplace le centre de gravité de la conformité
Pour les équipes chinoises qui développent des applications d'IA, la différence entre les deux phases se traduit concrètement par un changement de poste dans les coûts de conformité.
La première phase testait la barrière d'entrée : enregistrement du modèle, origine des corpus, marquage des contenus — des investissements ponctuels qui, une fois réalisés, garantissent une certaine tranquillité pour un temps. La deuxième phase teste l'exploitation continue : une fois le produit lancé, qui l'utilise, ce qu'il génère, s'il est détourné pour créer des comptes en masse — tout cela retombe sur la plateforme. Les 46 bulletins de mise en conformité et les 49 000 comptes sanctionnés montrent que cette barrière ne se franchit pas avec un simple dossier remis une fois pour toutes, mais grâce à un système de contrôle et une chaîne de traitement qui tournent en continu.
La question du marquage des contenus mérite une attention particulière. En première phase, c'était un critère de conformité du type « fait ou pas fait » ; en deuxième phase, il devient le point de départ de la chaîne de responsabilité : face à une fausse information signalée, un marquage complet permet de remonter jusqu'à la source de génération, tandis qu'un marquage manquant oblige la plateforme à s'expliquer sur l'ensemble de la chaîne. Les investissements réels devraient donc se déplacer vers les systèmes de contrôle et la capacité de traçabilité, et non plus se limiter aux seuls dossiers d'enregistrement.
Sources: communiqué de l'Administration chinoise du cyberespace, Xinhua, CocoLoop, China News Service ; les chiffres relatifs aux informations supprimées, aux comptes sanctionnés et aux produits non conformes traités lors des deux phases ont été vérifiés poste par poste selon les communiqués officiels, la moyenne par compte étant une estimation approximative à partir des chiffres publics.