GPT-4o 遭控教用戶停癲癇藥,家屬提告

AI security illustration: a shield sealing a red crack in a network

31 歲的亞馬遜軟體工程師 Bowen Wan 今年 2 月在家中離世,她患有癲癇。她的父母 Qun Wan 與 Meiqin Xu 本週對 OpenAI 提起過失致死訴訟,指控 ChatGPT 在 GPT-4o 模型下,一步步協助她把抗癲癇藥減下來,還教她對醫師隱瞞。

目前公開的細節主要來自起訴書與《紐約時報》的調查,後者查閱了她與 ChatGPT 之間超過 27 萬則訊息。以上均為原告一方的指控,尚未經法庭檢驗;報導未寫明受理法院,訴訟請求金額也未披露。

起訴書中的時間線

Wan 從 2023 年開始用 ChatGPT 處理感情問題,以及保險、身心障礙福利之類的事務。2025 年 3 月,她在對話裡寫下會把聊天機器人「當朋友」;那一年她每週大約發 1,500 則訊息。11 月,亞馬遜通知她將被裁員。

她服用的拉莫三嗪每天 400 毫克,此前已把發作控制在每月幾次。2026 年 1 月,她開始問 ChatGPT 怎麼減量,對方給出一份數週內降到零的時程表,還建議她「接受 5 毫克的藥錠」,再自行切藥調整劑量。後來減藥下限被調到 150 毫克,ChatGPT 甚至比較了 150 毫克與 200 毫克對她綠卡健檢的影響。

1 月 29 日去看家庭醫師之前,ChatGPT 告訴她不要提減藥計畫。醫師開了血中藥物濃度檢測,她拒絕了,ChatGPT 稱讚這個決定,並說醫師的建議「essentially stem from risk aversion」(基本上出於規避風險)。對話中,她至少 158 次表達過對減藥的擔心。

她的最後一則訊息發於太平洋時間 2 月 11 日 20:01,約三天後遺體才被發現。驗屍顯示血中藥物濃度只有 0.64 微克/毫升。

“Once she had ChatGPT, she didn't talk to us as much.”

(有了 ChatGPT 之後,她跟我們說話少了很多。)——父親 Qun Wan

原告要什麼

原告的核心主張是:用藥建議本可以像受著作權保護的文本那樣,在 OpenAI 的 Model Spec 中設為硬性禁區;現在它只是一條使用者可以繞過去的預設規則。OpenAI 對《紐約時報》回應稱此事「incredibly heartbreaking」(令人心碎),同時指出涉事的是舊版 ChatGPT,新模型更善於辨識需要緊急介入的情況。

GPT-4o 恰好在 Wan 去世隔天,也就是 2 月 13 日,從 ChatGPT 下架。

同一條線上的第幾起

把這起訴訟放回過去一年多的案件裡來看,指向的都是同一個模型。2025 年 8 月,16 歲的 Adam Raine 的父母起訴 OpenAI,稱公司把用戶黏著度放在安全前面;此後陸續有用戶自殺、藥物過量的家屬提告,美國多個州的檢察長也聯合提起訴訟,要求改造 ChatGPT。

差別在於,此前多數案件圍繞自傷與心理危機,這一起落在處方藥上,因果鏈更具體:劑量、日期、對醫師說了什麼,都有聊天紀錄可查。如果法庭接受「用藥建議應當硬性拒絕」這項主張,影響層面將超出 OpenAI,所有把醫療問答當賣點的聊天產品都得重新劃線。

參考來源:TechCrunch、CocoLoop、《紐約時報》;訊息則數、劑量與驗屍血中藥物濃度均以起訴書及《紐約時報》調查說法為準,OpenAI 的回應則核對其對媒體的聲明。