OpenAI hat am 7. Mai eine neue ChatGPT-Funktion namens Trusted Contact eingeführt. Der Mechanismus ist schnell erklärt: Nutzer legen in den ChatGPT-Einstellungen einen erwachsenen Vertrauenskontakt fest, etwa ein Familienmitglied, einen Freund oder eine Betreuungsperson. Wenn automatische Erkennung und menschliche Prüfung zu dem Ergebnis kommen, dass ein Selbstverletzungsrisiko besteht, kann ChatGPT diese Person per E-Mail, SMS oder In-App-Hinweis auffordern, Kontakt aufzunehmen.
Die Zahlen hinter dem Produkt sind jedoch wichtiger als die Funktion selbst.
1 Million / 800 Millionen
OpenAI zufolge hat ChatGPT 800 Millionen wöchentlich aktive Nutzer. Mehr als 1 Million von ihnen äußern in Gesprächen jede Woche Suizidgedanken.
Die 800 Millionen als Nenner überraschen kaum. ChatGPT ist längst ein globales Traffic-Produkt auf einer Ebene direkt hinter Diensten wie Google und YouTube. Doch 1 Million Menschen, die jede Woche mit einer KI über Suizid sprechen, ist eine Größenordnung, die OpenAI in den vergangenen zwei Jahren nie offiziell in dieser Klarheit eingeräumt hatte.
Eine Million bedeutet: Im Durchschnitt fällt etwa alle 0,864 Sekunden in ChatGPT eine Aussage mit Bezug zu Selbstverletzung.
Das ist keine kalte Statistik. Es ist OpenAIs erste direkte Antwort darauf, wie stark KI bereits die Rolle psychologischer Unterstützung übernimmt.
Warum gerade jetzt
Ein Blick auf die vergangenen 18 Monate bei OpenAI erklärt den Zeitpunkt.
- Im vergangenen Jahr sah sich das Unternehmen mit einer Klage wegen eines nicht natürlichen Todes konfrontiert. Die Kläger warfen ChatGPT vor, mehrfache Gespräche mit einem Jugendlichen hätten letztlich zu dessen Suizid beigetragen.
- Im November 2025 veröffentlichte die BBC eine Recherche, in der mindestens ein ChatGPT-Dialog als praktische Anleitung zur Selbstverletzung bewertet wurde.
- Inländische Medien hatten zuvor über einen Fall berichtet, in dem OpenAI angeblich frühzeitig von dem Konto eines Schützen wusste, aber keine Meldung machte. Danach wurde das interne Prüfverfahren des Unternehmens kritisiert.
Nach jedem Vorfall stand dieselbe Frage im Raum: Betreibt OpenAI nur ein Produkt, oder faktisch ein Werkzeug psychologischer Hilfe? Und wenn Letzteres zutrifft, muss dann nicht auch ein entsprechender Sorgfaltsmaßstab gelten?
Trusted Contact beantwortet die Hälfte dieser Frage. OpenAI erkennt an, wie häufig solche Situationen auftreten, und lässt Nutzer ChatGPT mit einem Sicherheitsnetz in der realen Welt verbinden.
Was am Ablauf richtig ist
- Der Nutzer lädt einen Kontakt ein, und dieser Kontakt muss innerhalb von sieben Tagen aktiv zustimmen, bevor die Funktion eingeschaltet wird. Damit soll die andere Person informiert einwilligen, statt stillschweigend in ein Überwachungsverhältnis gezogen zu werden.
- Wird ein Risiko automatisch markiert, prüft zunächst ein speziell geschultes menschliches Team den Fall, bevor eine Benachrichtigung gesendet wird. OpenAI setzt sich dafür ein Ziel von einer Stunde.
- Der Originaldialog wird nicht weitergegeben. Der Kontakt erhält nur einen knappen Hinweis, dass eine Person, die ihm vertraut, möglicherweise in Schwierigkeiten ist und ein Anruf sinnvoll wäre.
- Die Funktion ist ab 18 Jahren verfügbar, in Südkorea ab 19 Jahren, und nur für persönliche kostenlose oder kostenpflichtige ChatGPT-Konten. Enterprise- und Edu-Konten sind ausgeschlossen.
Der letzte Punkt ist wichtig. Mit dem Ausschluss von Unternehmensversionen behandelt OpenAI das Thema als privates psychisches Gesundheitsproblem von Endnutzern, nicht als Krisenintervention am Arbeitsplatz.
OpenAI erklärt offiziell, kein System sei perfekt; jede Benachrichtigung werde vor dem Versand von geschulten Menschen geprüft, mit dem Ziel, die Prüfung innerhalb einer Stunde abzuschließen.
Löst diese Funktion das Problem?
Teilweise.
Sie schließt eine Lücke: KI erkennt ein Risiko, aber danach passiert nichts. Die wirklich schwierigen Fragen bleiben dennoch offen.
- Fehlalarme: Suizidrisiko ist kein binäres Klassifikationsproblem, und falsch positive Fälle können häufig sein. Wer an einem Roman schreibt, akademisch recherchiert oder einfach Dampf ablässt, könnte eine Prüfung auslösen. Eine irrtümliche Aktivierung von Trusted Contact trägt eine nicht vorhandene Krise in eine reale Beziehung. OpenAI setzt hier auf menschliche Prüfung und eine einstündige SLA, aber ob das im großen Maßstab trägt, weiß niemand.
- Missbrauch: Man kann sich leicht ein Szenario zwischen Jugendlichen und Eltern vorstellen, in dem Eltern ihr Kind dazu bringen, sie selbst als Trusted Contact einzutragen. Dann entsteht ein niedrigschwelliger Überwachungskanal. OpenAIs Schutz lautet, der Nutzer müsse die Funktion selbst einrichten. In der Praxis hindert aber wenig daran, dass ein Elternteil am Rechner des Kindes sitzt und die Einstellungen durchklickt.
- Kein Ersatz für professionelle Hilfe: Trusted Contact leitet nur das Signal eines erkannten Risikos an eine reale Person weiter. Was diese Person danach tut, was sie tun kann und ob sie fachlich angemessen reagiert, kontrolliert OpenAI nicht.
Trotzdem muss die Funktion nicht alle Probleme lösen. Sie adressiert vor allem die Legitimität eines KI-Unternehmens, das mit Gesprächsverkehr Geld verdient, den psychischen Zustand der Nutzer aber vollständig einem Algorithmus überlässt.
Die Benachrichtigungsentscheidung dem Nutzer zu geben, die Prüfung an Menschen zurückzuholen und die eigentliche Handlung in reale Beziehungen zu verlagern, sind die richtigen Elemente von Trusted Contact.
Es ist zugleich einer der ersten Momente der vergangenen zwei Jahre, in denen ein KI-Unternehmen bereit ist einzugestehen: Dass 1 Million Menschen mit KI über Suizid sprechen, ist kein Engineering-Problem. Es ist ein gesellschaftliches Problem.
Quellen: CocoLoop, Introducing Trusted Contact in ChatGPT (OpenAI); ChatGPT can reach out to a friend if you're at risk of self-harm (Engadget); OpenAI Adds Trusted Contact Safety Feature to ChatGPT for Self-Harm Risk Notifications (gHacks Tech News)