美國佛羅里達州李郡一名30歲女子，在與Claude的對話中寫下要對李郡警長辦公室「開槍掃射」，遭控一項二級重罪。根據逮捕報告，這段文字寫於9月26日；隔天，同一名用戶又在對話中提到自己弄到了一把新槍。
Anthropic的審查團隊看到這些內容後，通報了執法單位。9月30日，檢方依據佛州法典836.10條提出指控，罪名是以書面或電子方式威脅實施大規模槍擊或恐怖行為。依二級重罪的量刑上限，她最高可能面臨15年有期徒刑與1萬美元罰款。警方是在她家中將她帶走的，過程並無衝突。出庭應訊安排在11月2日。
李郡警長Carmine Marceno對外表示，這名女子告訴警方，她平常把Claude當日記本在用。
從關鍵字篩查到人工通報
依報導描述的流程，Claude的對話會先經過自動篩查，系統辨識威脅性措辭與關鍵字句，再依嚴重程度決定是否交給人工複核；人工團隊看過之後，才會決定要不要聯繫執法單位。這起案件走完了整條流程。
撐起這一步的是Anthropic的隱私政策。9月10日生效的版本寫明，公司若善意認為有必要，可向執法機關揭露個人資料，用途是：
"prevent serious harm to any person or to property"
也就是防止任何人身或財產遭受嚴重傷害。其政府請求政策另有一條規定：通常只在收到有效法律程序時才會交出用戶資料，例外是可能導致「imminent physical harm or death」（即將發生的人身傷害或死亡）的緊急狀況。這起案件事前並無傳票，是平台主動上報，用的正是這項緊急例外。
兩個月內的第三起
把8月以來的幾起案件放在一起看，結局並不相同：
- 8月，德州聖安東尼奧：一名22歲用戶向Claude詢問在小學開槍的事，FBI通報了當地警方，此人依恐怖威脅重罪遭逮捕。
- 8月，舊金山：一名用戶在對話中威脅Anthropic執行長Dario Amodei，還提到要購買AR-15步槍。警方接獲通報，但最終並未提出指控。
- 9月，佛州李郡：就是這一起，已經立案，等待出庭應訊。
OpenAI那邊也有先例。今年3月，同樣在佛州，一名ChatGPT用戶在對話中談到要殺害前女友，OpenAI將情況報給了FBI；此人8月認罪，被判8年緩刑。相反方向的教訓則是加拿大坦伯里奇（Tumbler Ridge）槍擊案：OpenAI先前曾封禁涉案帳號，卻沒有通報執法單位，那起槍擊造成8人死亡，Sam Altman在4月為此寫信致歉。
平台兩頭受壓：漏報，事後會被追問為何沒說；上報，又會讓用戶重新思考「私人對話」到底有多私人。
外界還看不到的部分
自動篩查究竟盯哪些字詞、每月有多少對話被送進人工複核、其中又有多少最終轉交警方，Anthropic並未公開這些數字。這名女子自稱寫的是日記，檢方必須證明她有實行威脅的意圖，這一點得等法庭審理定奪，目前案情仍以法院紀錄與警方說法為準。
對一般用戶來說，眼下能確定的是：在Claude裡寫下的內容，並不只停留在自己與模型之間。設定裡關掉「使用對話改善模型」的選項，管的是訓練資料，與安全審查是兩套不同的機制。
參考來源：Tom's Hardware、The Next Web、CocoLoop、TechRepublic；已核驗Anthropic隱私政策與政府請求政策的揭露條款，並對照李郡警長辦公室的通報內容核驗罪名條文與量刑上限。