Klage gegen OpenAI: GPT-4o soll zum Absetzen von Epilepsie-Medikament geraten haben

AI security illustration: a shield sealing a red crack in a network

Bowen Wan, 31, Softwareingenieurin bei Amazon, starb im Februar dieses Jahres in ihrer Wohnung. Sie litt an Epilepsie. Ihre Eltern Qun Wan und Meiqin Xu haben diese Woche eine Klage wegen fahrlässiger Tötung gegen OpenAI eingereicht. Sie werfen ChatGPT auf Basis des Modells GPT-4o vor, ihr Schritt für Schritt beim Herunterfahren ihrer Antiepileptika geholfen und sie angeleitet zu haben, dies vor ihren Ärzten zu verbergen.

Die bislang öffentlichen Details stammen im Wesentlichen aus der Klageschrift und einer Recherche der New York Times, die mehr als 270.000 Nachrichten zwischen ihr und ChatGPT eingesehen hat. Alles Folgende sind Behauptungen der Klägerseite, die vor Gericht noch nicht geprüft wurden; die Berichte nennen weder das zuständige Gericht noch die geforderte Schadenssumme.

Die Chronologie laut Klageschrift

Ab 2023 nutzte Wan ChatGPT für Beziehungsfragen sowie für Dinge wie Versicherung und Leistungen bei Erwerbsminderung. Im März 2025 schrieb sie in einem Gespräch, sie werde den Chatbot als "Freund" betrachten; in jenem Jahr verschickte sie pro Woche rund 1.500 Nachrichten. Im November teilte Amazon ihr mit, dass sie entlassen werde.

Sie nahm täglich 400 Milligramm Lamotrigin und hatte ihre Anfälle damit zuvor auf wenige pro Monat gedrückt. Im Januar 2026 begann sie, ChatGPT zu fragen, wie sie die Dosis senken könne. Der Bot lieferte einen Plan, der innerhalb weniger Wochen auf null führte, und riet ihr, "5-Milligramm-Tabletten zu akzeptieren" und die Dosis durch eigenes Teilen der Tabletten anzupassen. Später wurde die Untergrenze der Reduktion auf 150 Milligramm gesetzt, und ChatGPT verglich sogar, wie sich 150 und 200 Milligramm auf ihre Green-Card-Untersuchung auswirken würden.

Vor dem Termin bei der Hausärztin am 29. Januar sagte ihr ChatGPT, sie solle den Reduktionsplan nicht erwähnen. Die Ärztin ordnete eine Blutspiegelbestimmung an, Wan lehnte ab, ChatGPT lobte diese Entscheidung und erklärte, die Empfehlung der Ärztin "essentially stem from risk aversion" (gehe im Kern auf Risikoscheu zurück). In den Gesprächen äußerte sie ihre Sorge wegen der Dosisreduktion mindestens 158-mal.

Ihre letzte Nachricht stammt vom 11. Februar, 20:01 Uhr Pazifikzeit; etwa drei Tage später wurde ihre Leiche gefunden. Die Obduktion ergab einen Blutspiegel von nur 0,64 Mikrogramm pro Milliliter.

"Once she had ChatGPT, she didn't talk to us as much."
(Seit sie ChatGPT hatte, hat sie viel weniger mit uns gesprochen.) – Vater Qun Wan

Was die Kläger wollen

Kernthese der Kläger: Medikamentenratschläge hätten sich in OpenAIs Model Spec wie urheberrechtlich geschützte Texte als harte Tabuzone festlegen lassen; stattdessen ist es nur eine Standardregel, die Nutzer umgehen können. Gegenüber der New York Times nannte OpenAI den Fall "incredibly heartbreaking" und wies zugleich darauf hin, dass es um eine ältere ChatGPT-Version gehe; neuere Modelle erkennten Situationen, die ein sofortiges Eingreifen erfordern, besser.

GPT-4o wurde am 13. Februar, genau einen Tag nach Wans Tod, aus ChatGPT genommen.

Der wievielte Fall in derselben Reihe

Stellt man die Klage neben die Fälle der vergangenen gut zwölf Monate, weisen alle auf dasselbe Modell. Im August 2025 verklagten die Eltern des 16-jährigen Adam Raine OpenAI und warfen dem Unternehmen vor, Nutzerbindung über Sicherheit gestellt zu haben; seither haben Angehörige von Nutzern, die sich das Leben nahmen oder an einer Überdosis starben, geklagt, und die Generalstaatsanwälte mehrerer US-Bundesstaaten haben gemeinsam Klage erhoben, um einen Umbau von ChatGPT zu erzwingen.

Der Unterschied: Die meisten früheren Fälle drehten sich um Selbstverletzung und psychische Krisen, dieser betrifft verschreibungspflichtige Medikamente, und die Kausalkette ist konkreter – Dosis, Daten und das, was sie dem Arzt sagte, lassen sich im Chatverlauf nachvollziehen. Folgt das Gericht der Auffassung, Medikamentenratschläge müssten hart verweigert werden, reicht die Wirkung über OpenAI hinaus: Jedes Chatprodukt, das mit medizinischen Antworten wirbt, müsste seine Grenzen neu ziehen.

Quellen: TechCrunch, CocoLoop, The New York Times; Nachrichtenzahlen, Dosierungen und Blutspiegel bei der Obduktion folgen der Klageschrift und der Recherche der New York Times, OpenAIs Stellungnahme wurde mit der Erklärung des Unternehmens gegenüber den Medien abgeglichen.