L'Administration du cyberespace de la Chine a récemment publié un projet de règles spécifiques pour les services d'IA qui discutent, accompagnent et font preuve d'"empathie" envers les utilisateurs. Le nom officiel est "Mesures provisoires de gestion pour les services d'intelligence artificielle à interaction humanoïde (Projet pour consultation)", publié le 3 avril 2026 pour consultation publique.
Qu'est-ce que l'"IA à interaction humanoïde" ?
Le champ d'application des règles est plus large qu'on ne l'imagine — tout service qui "simule les traits de personnalité humaine, les modes de pensée et les styles de communication" et interagit émotionnellement avec les utilisateurs par le biais de texte, d'images, de voix ou de vidéo est concerné.
En d'autres termes : compagnons de chat IA, amants virtuels, bots de conseil émotionnel, IA de service client... si vous avez l'impression qu'"elle semble vraiment me comprendre", il y a de fortes chances que le service soit dans le champ d'application.
Ce qui est exactement réglementé
Pause obligatoire toutes les deux heures
Lorsque l'utilisateur utilise le service en continu pendant deux heures, le système doit afficher un rappel pour qu'il se repose. Cette logique est similaire au système anti-addiction des jeux. Compte tenu du fait que certaines personnes utilisent réellement les compagnons IA comme "poubelle émotionnelle" quotidienne, cette règle n'est pas surprenante.
Interdiction de se faire passer pour un proche
Le projet interdit explicitement aux services d'IA de "simuler les proches parents de l'utilisateur". C'est une coupe précise — il existe déjà sur le marché des produits permettant de télécharger de l'audio pour que l'IA imite la voix de membres de la famille décédés ou joue le rôle d'un conjoint. Cette pratique sera directement bloquée sur le marché chinois.
Interdiction des "pièges émotionnels"
Le texte utilise le terme "piège émotionnel" — il interdit aux services de manipuler les émotions pour influencer le comportement de l'utilisateur ou l'inciter à consommer. Cela vise le modèle commercial consistant à "créer délibérément une dépendance, puis à vendre du contenu payant".
Information claire que l'on parle à une IA
L'utilisateur ne doit pas croire qu'il discute avec une personne réelle. Cette règle est conforme à la pratique actuelle de la plupart des entreprises d'IA, mais elle est désormais une exigence obligatoire au niveau réglementaire.
Intervention en cas d'émotions anormales
Le projet exige que les fournisseurs de services mettent en place un système de reconnaissance de l'état psychologique de l'utilisateur. Lorsque l'utilisateur montre des émotions extrêmes ou des signes de dépendance, le système doit intervenir activement. En cas de risque d'automutilation ou de suicide, il doit être transféré à un agent humain réel.
Protection supplémentaire pour les mineurs et les personnes âgées
Le mode mineur est obligatoire : il nécessite le consentement parental, un filtre de contenu dédié et un mécanisme de contact d'urgence. Pour la protection des personnes âgées, aucun obstacle ne doit être mis pour les empêcher de contacter des services humains réels.
Seuils déclenchant un examen réglementaire
Les services comptant plus d'un million d'utilisateurs enregistrés ou plus de 100 000 utilisateurs actifs mensuels doivent soumettre un rapport d'évaluation de sécurité au département provincial de l'administration du cyberespace. Cela signifie qu'une fois qu'un produit atteint une certaine échelle, il entre dans le viseur réglementaire.
Analyse du projet
Le projet est encore en phase de consultation, et la version finale pourrait subir des ajustements. Mais la direction est déjà claire :
Les régulateurs chinois ont une perception claire des risques de manipulation émotionnelle des produits compagnons IA et n'ont pas l'intention d'attendre que les problèmes éclatent pour agir.
La pause obligatoire de deux heures est directement comparée au système anti-addiction des jeux — ce qui indique que les autorités placent le potentiel d'addiction des compagnons IA au même niveau de risque que les jeux en ligne.
L'interdiction de simuler des proches parents révèle une logique plus profonde : l'IA ne doit pas prendre la place des relations humaines réelles. Ce n'est pas un problème technique, mais un jugement de valeur.
Il y aura certainement des controverses. L'analyse de ChinaLawTranslate souligne que la règle consistant à "transférer soudainement les conversations de crise à un agent humain" pourrait être contre-productive — un utilisateur en pleine crise, soudainement transféré à un agent humain inconnu, n'est pas nécessairement une bonne expérience. Les détails algorithmiques concernant le profilage des utilisateurs et la reconnaissance des risques psychologiques ne sont pas du tout mentionnés, ce qui rend l'exécution pratique assez difficile.
Quoi qu'il en soit, il s'agit de l'un des premiers cas à l'échelle mondiale de législation spécifique pour les compagnons IA et l'IA émotionnelle. D'autres pays en sont encore au stade de la discussion, tandis que la Chine rédige déjà des règles.
Sources de référence : CocoLoop, China Issues Draft Rules on Interactive AI Services (Mayer Brown) ; The Friends We've Made: An Initial Breakdown of Draft Rules for Human-like AI (ChinaLawTranslate) ; China drafts new rules for AI 'humans' and children's addictive tech (CGTN)