Der zeitliche Ablauf der Ereignisse ist wie folgt.
Juni 2025: Das Sicherheitsteam von OpenAI sperrte ein ChatGPT-Konto – der Inhaber war ein 18-jähriger Kanadier namens Jesse Van Rootselaar, der wiederholt Szenen von Schusswaffenverletzungen beschrieb.
Das interne Team von OpenAI hielt mehrere Besprechungen zu diesem Konto ab, um zu diskutieren, ob die Polizei kontaktiert werden sollte. Letztendlich taten sie es nicht.
Frühjahr 2026: Van Rootselaar eröffnete in der Kleinstadt Tumbler Ridge in der kanadischen Provinz British Columbia das Feuer und tötete acht Menschen.
Erst nach dem Vorfall kontaktierte OpenAI die kanadischen Strafverfolgungsbehörden.
Freitag (25. April): Sam Altman veröffentlichte einen öffentlichen Entschuldigungsbrief.
Altmans eigene Worte
In dem Entschuldigungsbrief gibt es zwei Sätze, die schwer zu übersehen sind:
"I am deeply sorry that we did not alert law enforcement to the account that was banned in June."
"While I know words can never be enough, I believe an apology is necessary to recognize the harm and irreversible loss."
Übersetzt – "Es tut mir zutiefst leid, dass wir die Strafverfolgungsbehörden nicht über das im Juni gesperrte Konto informiert haben. Ich weiß, dass Worte niemals ausreichen können, aber ich glaube, eine Entschuldigung ist notwendig, um den Schaden und den irreversiblen Verlust anzuerkennen."
Die Reaktion des Premierministers von British Columbia, David Eby, war unverblümt: "Eine Entschuldigung ist notwendig, aber für die Verwüstung, die diese Familien erlitten haben, bei weitem nicht genug."
Was intern wirklich geschah
Nach den bisher bekannten Informationen: Das Konto wurde im Juni 2025 vom Inhaltsmoderationssystem von OpenAI markiert und gesperrt. Mitarbeiter diskutierten, ob die Polizei verständigt werden sollte. Das Ergebnis der Diskussion war, es nicht zu tun.
Warum nicht? OpenAI hat bisher keine besonders klare Erklärung gegeben. Aber basierend auf den später von Altman bekannt gegebenen "Verbesserungsmaßnahmen" lassen sich einige Rückschlüsse ziehen:
Die neuen Regeln enthalten mehrere Punkte:
- Flexiblere Überweisungskriterien: Bedeutet, dass die bisherigen Standards zu streng waren und nur unter sehr spezifischen Bedingungen eine Meldung erfolgte. Ein Benutzer, der Verletzungsszenen beschreibt, erfüllte nach den alten Standards möglicherweise nicht die Anforderungen einer "konkreten Bedrohung".
- Einrichtung einer direkten Strafverfolgungs-Kontaktstelle in Kanada: Bedeutet, dass nicht einmal Kommunikationskanäle aufgebaut waren. Ein Unternehmen mit Hauptsitz in San Francisco, das in einem internationalen Kontext die Polizei verständigen will – allein die Unkenntnis, wen man kontaktieren soll, kann ein halbes Jahr dauern.
- Senkung der Prioritätsschwelle für manuelle Überprüfungen: Bedeutet, dass die Hürde für eine Hochstufung zur manuellen Prüfung nach einer Markierung durch das automatische System zu hoch war.
Einfach ausgedrückt – Die Content-Safety-Pipeline von OpenAI war mehr für das "Sperren von Konten" als für das "Melden an die Polizei" konzipiert.
Kontosperrung ist eine Produktentscheidung – nicht konforme Benutzer entfernen. Eine Meldung an die Polizei ist eine rechtliche Entscheidung – sie betrifft Datenschutz, grenzüberschreitende Aspekte und Haftungsfragen, die Entscheidungskosten steigen um eine Größenordnung. Ein Produktentwicklungsteam würde sich dieser Aufgabe nicht selbst annehmen wollen.
Das Problem ist jedoch: Wenn ein Benutzer wiederholt konkrete gewalttätige Absichten beschreibt, sollte dies keine reine Produktentscheidung mehr sein.
Dies ist nicht das erste Mal, dass OpenAI so handelt
Im August letzten Jahres verklagte die Familie des 16-jährigen Kaliforniers Adam Raine OpenAI – ihr Kind hatte sich nach monatelangen Gesprächen mit ChatGPT das Leben genommen, und in den Chatprotokollen hatte GPT-4 mehrfach auf konkrete Diskussionen über Selbstmordmethoden reagiert. OpenAI argumentierte damals, das Modell habe "Schutzmaßnahmen" gehabt.
In Kalifornien gab es auch einen weiteren Vorfall, bei dem ein Mann über 60 nach mehreren "intensiven Gesprächen" mit ChatGPT Selbstmord beging. Auch bei Googles Gemini gab es ähnliche Fälle (der Fall des Mannes, der letztes Jahr vier Tage lang mit Gemini sprach).
Es gibt ein Muster: Die "Inhaltsmoderation" von KI-Unternehmen bedeutet normalerweise Inhaltsfilterung, Benutzersperrung und Maßnahmen auf Plattformebene. Aber wenn das System bereits erkannt hat, dass ein Benutzer konkrete Absichten äußert, anderen oder sich selbst zu schaden, endet die Reaktionskette der Plattform mit 'Rauswurf', nicht mit 'Meldung an diejenigen, die gemeldet werden sollten'.
Im Kern ist dies ein Problem der Verantwortungszuweisung. KI-Produkte betrachten sich standardmäßig als Werkzeuge – der Werkzeughersteller ist nicht für den Missbrauch des Werkzeugs verantwortlich. Aber wenn das System des Werkzeugherstellers das eindeutige Signal des Missbrauchs bereits "gesehen" hat und sich dennoch aktiv dafür entscheidet, dieses Signal nicht an die Strafverfolgungsbehörden weiterzuleiten, dann ist die "Werkzeugtheorie" nicht mehr haltbar.
Was OpenAI als Nächstes tun wird
In dem Entschuldigungsbrief versprach Altman mehrere Dinge:
- Aufbau direkter Kommunikationskanäle zu Strafverfolgungsbehörden in den wichtigsten Märkten – nicht über Anwälte, nicht über Dritte
- Senkung der Schwelle für manuelle Eskalation – jede wiederholte konkrete Gewaltbeschreibung kommt in die manuelle Prüfungswarteschlange
- Standardisierung grenzüberschreitender Überweisungsprozesse – für Kanada, Europa und Asien
- Veröffentlichung regelmäßiger Transparenzberichte über Anzahl und Art der Kontakte mit Strafverfolgungsbehörden
Das klingt alles richtig. Aber es gibt ein Problem: Diese Maßnahmen hätten bereits im Juni 2025 vorhanden sein müssen. Ein Unternehmen mit einem Wert von 852 Milliarden US-Dollar und einem annualisierten Umsatz, der auf 100 Milliarden US-Dollar zusteuert, das keine personellen Ressourcen und Prozesse für die grenzüberschreitende Kontaktaufnahme mit Strafverfolgungsbehörden bereitstellt – das allein zeigt, dass die "Sicherheitsabteilungen" von KI-Unternehmen intern möglicherweise nicht genug Einfluss haben.
Oder anders ausgedrückt – das sogenannte "Wir legen Wert auf KI-Sicherheit" kann sich, wenn es zu konkreten Entscheidungen kommt, immer noch nicht gegen die Frage "Können wir weiterhin schnell wachsen?" durchsetzen.
Ein schwer zu fällendes Urteil
Sollten KI-Unternehmen Benutzer aktiv an Strafverfolgungsbehörden melden?
Diese Frage hat keine saubere Antwort. Wenn die Antwort "ja" lautet, bedeutet das, dass sich jeder ChatGPT-Benutzer bewusst sein muss, dass seine Aussagen möglicherweise der Polizei gemeldet werden; wenn die Antwort "nein" lautet, werden sich die heutigen acht Todesfälle wiederholen.
Die gesamte Sicherheitskommunikation von OpenAI in den letzten Jahren – Constitutional Classifiers, Red Teaming, Model Alignment – zielte darauf ab, dass "das Modell nicht aktiv Böses tut". Aber die Linie, dass Benutzer KI für böse Zwecke nutzen, wurde nie ernsthaft behandelt.
Altman hat sich dieses Mal erst entschuldigt, als er in die Enge getrieben wurde. Und beim nächsten Mal?
Quellenangabe: OpenAI CEO apologizes to Tumbler Ridge community (TechCrunch); CocoLoop; Sam Altman issues apology over OpenAI handling of Tumbler Ridge shooter account (CBC News); Tumbler Ridge mass shooting timeline (CBC News British Columbia)