OpenAI a lancé le 7 mai une nouvelle fonction de ChatGPT appelée Trusted Contact, ou contact de confiance. Le mécanisme est simple : l'utilisateur désigne dans les réglages de ChatGPT un adulte de confiance, par exemple un membre de la famille, un ami ou un aidant. Si la détection automatique et la revue humaine concluent à un risque d'automutilation, ChatGPT peut envoyer un e-mail, un SMS ou une notification dans l'application pour suggérer à cette personne de prendre contact.
Mais les chiffres derrière le produit comptent davantage que la fonction elle-même.
1 million / 800 millions
Selon OpenAI, ChatGPT compte 800 millions d'utilisateurs actifs chaque semaine, dont plus de 1 million expriment des pensées suicidaires dans leurs conversations hebdomadaires.
Le dénominateur de 800 millions n'étonne plus vraiment. ChatGPT est déjà devenu un produit de trafic mondial, juste derrière des services comme Google et YouTube. Mais 1 million de personnes parlant chaque semaine de suicide avec une IA est un niveau qu'OpenAI n'avait jamais reconnu officiellement de manière aussi directe ces deux dernières années.
Un million signifie qu'en moyenne, toutes les 0,864 seconde, quelqu'un formule dans ChatGPT un propos lié à l'automutilation.
Ce n'est pas une statistique froide. C'est la première réponse frontale d'OpenAI à la question du rôle de soutien psychologique que l'IA assume déjà.
Pourquoi maintenant
Les 18 derniers mois d'OpenAI donnent le contexte.
- L'an dernier, l'entreprise a fait face à une plainte liée à un décès non naturel, les plaignants affirmant que plusieurs échanges entre ChatGPT et un adolescent avaient fini par contribuer à un suicide.
- En novembre 2025, la BBC a publié une enquête indiquant qu'au moins une conversation avec ChatGPT avait été considérée comme fournissant des instructions pratiques d'automutilation.
- Des médias nationaux avaient déjà rapporté un cas dans lequel OpenAI aurait connu à l'avance le compte d'un tireur sans prévenir les autorités; l'entreprise a ensuite été critiquée pour la conception de son mécanisme interne de revue.
À chaque incident, la même question revient : OpenAI exploite-t-elle seulement un produit, ou bien un outil de soutien psychologique de fait ? Si c'est le second cas, doit-elle assumer un niveau de responsabilité équivalent ?
Trusted Contact répond à la moitié de cette question. OpenAI reconnaît la fréquence du phénomène et choisit de permettre aux utilisateurs de relier ChatGPT à un filet de sécurité dans le monde réel.
Ce que le processus fait correctement
- L'utilisateur invite un contact, et ce contact doit accepter manuellement dans un délai de sept jours avant que la fonction soit activée. L'objectif est d'assurer une information et un consentement réels, pas de placer quelqu'un dans une relation de surveillance sans qu'il le sache.
- Quand le système automatique signale un risque, une équipe humaine spécialement formée examine d'abord le cas avant de décider d'envoyer ou non la notification. OpenAI vise une revue en moins d'une heure.
- Le texte original de la conversation n'est pas partagé. Le contact reçoit seulement un message minimal indiquant qu'une personne qui lui fait confiance traverse peut-être une difficulté et qu'il serait utile de la contacter.
- La fonction est ouverte aux 18 ans et plus, 19 ans et plus en Corée du Sud, et seulement aux comptes ChatGPT personnels gratuits ou payants. Les comptes Enterprise et Edu ne sont pas concernés.
Le dernier point est important. En excluant l'entreprise, OpenAI traite ce dispositif comme une réponse à un problème privé de santé mentale chez les utilisateurs grand public, et non comme une intervention de crise au travail.
La position officielle d'OpenAI est qu'aucun système n'est parfait; chaque notification est revue par des personnes formées avant envoi, avec pour objectif de terminer cette revue en une heure.
La fonction résout-elle le problème ?
En partie.
Elle répare une chaîne jusque-là incomplète : l'IA détecte un risque, mais aucune action ne suit. Elle ne règle toutefois pas plusieurs difficultés de fond.
- Faux positifs : la détection du risque suicidaire n'est pas une classification binaire, et les faux positifs peuvent être nombreux. Une personne qui écrit un roman, mène une recherche universitaire ou se contente de se plaindre peut déclencher un examen. Une activation erronée de Trusted Contact introduit une crise inexistante dans une relation réelle. OpenAI s'appuie sur la revue humaine et un SLA d'une heure, mais personne ne sait si cet équilibre tiendra à grande échelle.
- Abus : on peut facilement imaginer un scénario entre adolescents et parents où le parent pousse l'enfant à le désigner comme Trusted Contact, créant un canal de surveillance très facile à mettre en place. La défense d'OpenAI est que l'utilisateur doit configurer la fonction lui-même, mais en pratique peu de choses empêchent un parent de s'asseoir devant l'ordinateur de l'enfant et de cliquer dans les réglages.
- Pas un substitut à l'aide professionnelle : Trusted Contact transmet seulement un signal de risque à quelqu'un dans la vie réelle. Ce que cette personne fera ensuite, ce qu'elle peut faire et la qualité professionnelle de sa réponse échappent au contrôle d'OpenAI.
Pour autant, la fonction n'a pas à tout résoudre. Elle vise surtout la légitimité d'une entreprise d'IA qui gagne de l'argent grâce au trafic conversationnel tout en laissant l'état psychologique des utilisateurs entièrement aux algorithmes.
Donner à l'utilisateur le pouvoir de choisir qui peut être prévenu, remettre la revue entre les mains d'humains et renvoyer l'action concrète vers des relations réelles : c'est là que Trusted Contact est bien conçu.
C'est aussi l'un des premiers moments, en deux ans, où une entreprise d'IA accepte de reconnaître que 1 million de personnes parlant de suicide avec une IA n'est pas un problème d'ingénierie. C'est un problème social.
Sources : CocoLoop, Introducing Trusted Contact in ChatGPT (OpenAI); ChatGPT can reach out to a friend if you're at risk of self-harm (Engadget); OpenAI Adds Trusted Contact Safety Feature to ChatGPT for Self-Harm Risk Notifications (gHacks Tech News)