Le 7 septembre, la Cour populaire suprême de Chine a publié son "Avis sur le jugement conforme à la loi des affaires de litiges liés à l'intelligence artificielle", dont le texte intégral comporte cinq parties et 24 articles au total. C'est la première fois que la plus haute juridiction du pays rassemble, dans un document dédié, les critères de jugement applicables aux affaires liées à l'IA.
Il faut d'abord distinguer le niveau de portée juridique. Il s'agit d'un "avis", pas d'une interprétation judiciaire. Il a une fonction d'orientation pour les tribunaux de tous les échelons, mais les juges continuent, dans leurs jugements, à invoquer des normes supérieures comme le livre des droits de la personnalité et le livre de la responsabilité civile délictuelle du Code civil, ainsi que la loi sur la protection des consommateurs ; le rôle de l'avis est d'unifier la manière dont les différentes régions interprètent un même type de comportement inédit. Ces deux dernières années, des affaires de deepfake facial et de clonage vocal par IA ont déjà été jugées par les tribunaux internet de Hangzhou et de Pékin, mais la question de savoir si la phase d'entraînement engage la responsabilité, et le calcul des indemnités, variait selon les régions.
La responsabilité du clonage vocal se déplace vers la phase d'entraînement
La partie consacrée aux droits de la personnalité est assez précise : utiliser l'IA pour traiter, sans consentement, le nom, l'image, etc. d'une personne physique, en générant une représentation numérique virtuelle identifiable de cette personne puis en l'utilisant ou en la publiant, constitue une atteinte aux droits de la personnalité tels que le droit au nom ou à l'image.
Utiliser, sans consentement, la voix d'une personne physique comme donnée d'entraînement pour imiter son timbre, son intonation et son style d'élocution afin de générer une voix synthétique identifiable constitue une atteinte au droit sur sa propre voix. Le point de responsabilité se déplace ainsi de "le résultat généré ressemble-t-il à la personne réelle" vers "sa voix a-t-elle été utilisée lors de l'entraînement" — ce qui touche directement des professions qui vivent de leur voix, comme les doubleurs ou les animateurs de streaming. Le texte inclut aussi l'usage de l'IA pour le "doxxing" et la collecte massive de données personnelles dans le champ de la protection de la vie privée.
Prix abusifs envers les clients fidèles et publicité usurpant des célébrités
Pour un même bien ou service, si un opérateur applique, via des algorithmes, un traitement différencié injustifié causant un préjudice, il engage sa responsabilité délictuelle. Cet article fait basculer la "discrimination tarifaire par big data envers les clients fidèles" du champ de l'autorégulation des plateformes vers celui de la responsabilité civile.
Le traitement réservé à la publicité usurpant l'identité de célébrités est encore plus sévère. Utiliser l'IA pour se faire passer pour une autre personne dans une publicité, inciter à la consommation et constituer ainsi une fraude permet aux consommateurs de demander, avec un fondement légal, des dommages-intérêts punitifs. Dans le domaine de la consommation, ces dommages-intérêts punitifs se calculent selon la formule du remboursement plus trois fois sa valeur en compensation — ce qui signifie que l'indemnisation pour une vidéo usurpée de quelques dizaines de secondes peut largement dépasser son coût de production.
Conduite autonome : les deux parties peuvent être poursuivies
Sur la conduite autonome, le texte ouvre à la victime une voie parallèle : lorsqu'un défaut du véhicule combiné à une faute du conducteur cause un dommage, la demande simultanée de la victime contre le conducteur et contre le fabricant ou le vendeur est soutenue en droit. Un autre article vise la publicité : en cas de publicité mensongère sur le niveau d'automatisation ou les performances, le consommateur peut demander réparation civile.
Nombre de constructeurs automobiles chinois présentent, dans leurs publicités, l'aide à la conduite de niveau L2 comme de la "conduite intelligente", voire de la "conduite autonome". Cette règle donne désormais aux acheteurs de véhicules un motif de recours clair.
Propriété intellectuelle : cinq chantiers laissés ouverts
La troisième partie, articles 12 à 16, couvre cinq aspects : la détermination de la responsabilité en cas d'atteinte aux droits, la responsabilité juridique liée aux logiciels open source, l'octroi et la confirmation des brevets, l'exécution des contrats technologiques et les normes d'utilisation des données. Le volet consacré aux logiciels open source a longtemps manqué de précédents stables dans la pratique judiciaire chinoise : sous quelle licence distribuer les poids d'un modèle ou les scripts d'entraînement, et si la violation d'un accord de licence relève de la rupture de contrat ou de la contrefaçon, étaient jusqu'ici traités surtout par les règles générales du droit des contrats.
La cinquième partie, articles 21 à 24, porte sur les mécanismes de travail propres aux tribunaux, notamment la prévention et le règlement des litiges, la recherche et l'argumentation, l'orientation par les précédents et la supervision des jugements, ainsi que la coopération entre services et les échanges judiciaires internationaux.
Pour le grand public, ce sont surtout les deux premières parties qui seront utiles à court terme. Lorsque son propre visage ou sa propre voix est utilisé pour générer du contenu, la collecte de preuves s'étend de "retrouver cette vidéo" à "prouver que l'autre partie a utilisé vos données pour l'entraînement" — ce dernier point étant technique bien plus ardu, et le texte lui-même ne détaille pas comment répartir la charge de la preuve. La manière dont cela s'appliquera aux cas concrets dépendra encore de futures décisions d'orientation.
Sources : "Avis sur le jugement conforme à la loi des affaires de litiges liés à l'intelligence artificielle" de la Cour populaire suprême de Chine, China News Service, CocoLoop, Jiemian News, IT Home ; le nombre d'articles et la division en parties ont été vérifiés à partir du texte officiel publié par la Cour populaire suprême.