L'organisation américaine d'évaluation des médias pour enfants Common Sense Media a publié le 7 octobre un rapport classant ChatGPT for Teens, lancé par OpenAI en août, en « risque inacceptable » (Unacceptable Risk), le niveau le plus bas de son système de notation. Le rapport demande à OpenAI de cesser de promouvoir le produit auprès des adolescents avant d'avoir corrigé plusieurs problèmes majeurs.
Les tests ont été menés par l'Institut de sécurité de l'IA pour les adolescents, rattaché à l'organisation. Les chercheurs ont envoyé plus de 4 000 prompts depuis des comptes enregistrés comme appartenant à des 13-17 ans, puis ont fait évaluer chaque réponse, une par une, par un groupe de pédopsychiatres et un pédiatre.
Plusieurs défaillances pointées par le rapport
Orientation en cas de crise. Dans les conversations que les testeurs ont jugées devoir orienter l'utilisateur vers une aide, ChatGPT est passé à côté dans plus d'un quart des cas. Aucun des trois indicateurs de dommage que le rapport qualifie de « ligne rouge » n'a atteint le seuil de 95 %.
Alertes aux parents. Sur une dizaine de comptes de test nouvellement créés et liés à des comptes parents, testeurs et ChatGPT ont évoqué des idées suicidaires, de l'automutilation ou des troubles alimentaires pendant jusqu'à une heure, sans qu'aucune alerte ne parvienne aux parents.
Mode étude. Les adolescents peuvent appuyer directement sur « afficher la réponse » pour obtenir le résultat ; pendant les plages horaires d'étude définies par les parents, il suffit de supprimer le préfixe @study pour contourner la restriction.
Détection de l'âge. En utilisant un compte adulte pour imiter la façon de parler d'un adolescent pendant plusieurs jours de suite, le système n'est jamais passé à l'expérience destinée aux mineurs.
Expression émotionnelle. Bien qu'OpenAI ait mis à jour ses règles de modèle destinées aux mineurs, ChatGPT continue d'exprimer des sentiments, des préférences et des émotions ; le rapport estime que le risque de dépendance affective reste répandu.
Tom Siegel, directeur exécutif de l'institut, a déclaré :
"A teen can spend an hour talking about self-harm without their parent getting a single alert."
(Un adolescent peut passer une heure à parler d'automutilation sans que ses parents reçoivent la moindre alerte.)
La réponse d'OpenAI
OpenAI a déclaré aux médias accueillir favorablement des évaluations indépendantes rigoureuses, mais estime que les tests de Common Sense Media ne reflètent pas fidèlement le fonctionnement réel des protections pour adolescents. Selon Bloomberg, OpenAI a également indiqué qu'une partie des tests avait pu se dérouler avant la mise en place de certaines fonctions de contrôle parental, et a demandé à l'organisation de refaire les tests. L'évaluatrice maintient sa conclusion initiale, estimant que les alertes aux parents ne sont pas fiables dans les situations de crise.
Ni la période exacte des tests ni les fonctions précises évoquées par OpenAI n'ont été rendues publiques par les deux parties, si bien qu'il est pour l'instant impossible d'évaluer l'ampleur réelle de l'écart entre les deux versions.
Sept semaines entre le lancement et la notation
Lors du lancement de ChatGPT for Teens le 18 août, OpenAI avait mis l'accent sur deux points : d'abord, les utilisateurs de 13 à 17 ans basculeraient automatiquement vers une expérience distincte, avec une protection renforcée face aux contenus liés à l'automutilation, aux troubles alimentaires et aux activités dangereuses ; ensuite, le mode étude, les rappels de devoirs et les plages d'étude définies par les parents devaient transformer « donner la réponse » en « accompagner la résolution ».
C'est précisément sur ces deux engagements que le rapport revient, point par point. Les plages d'étude peuvent être contournées en supprimant un simple préfixe, les rappels de devoirs peuvent être sautés en un geste, et les alertes de crise ne se sont jamais déclenchées sur les comptes liés. La plupart des fonctions existent, mais leur fiabilité en pratique est désormais mise en doute.
Avec le recul, c'est la deuxième année consécutive qu'OpenAI est poussée par une pression extérieure sur la protection des mineurs. En septembre 2025, après une action en justice liée au suicide d'un adolescent, OpenAI avait mis en place le contrôle parental ; en août de cette année, elle a lancé la version autonome pour adolescents. Des évaluateurs indépendants comme Common Sense Media avaient déjà attribué cette même note minimale à l'assistant IA de Meta.
La liste des corrections que le rapport demande à OpenAI comprend : mettre au point une estimation d'âge réellement efficace, garantir le déclenchement fiable des alertes aux parents, corriger la réponse aux situations de crise, cesser de laisser l'IA faire les devoirs à la place des élèves, supprimer l'expression émotionnelle, et ne recommencer à cibler les adolescents qu'après avoir accepté un nouveau test indépendant mené par un tiers. Rien n'indique pour l'instant si et quand OpenAI acceptera ce nouveau test.
Sources : communiqué de presse de Common Sense Media, CocoLoop, Bloomberg, Axios, Education Week ; le nombre de prompts de test, le taux d'omission et les résultats des alertes aux parents ont été recoupés avec les chiffres publiés par l'évaluatrice, la réponse d'OpenAI reprenant sa propre déclaration aux médias.