OpenAIは5月7日、ChatGPTの新機能「Trusted Contact（信頼できる連絡先）」を公開した。仕組み自体は単純だ。ユーザーがChatGPTの設定で、家族、友人、介護者など成人の連絡先を指定する。自動検知と人による確認で自傷リスクがあると判断された場合、ChatGPTはメール、SMS、アプリ内通知で、その人に「連絡を取ってみてほしい」と伝える。
ただ、この機能以上に重要なのは、その背後にある数字だ。
100万 / 8億
OpenAIによると、ChatGPTの週間アクティブユーザーは8億人に達し、そのうち100万人超が会話の中で自殺念慮を示している。
8億という母数に驚きは少ない。ChatGPTはすでにGoogleやYouTubeに次ぐ規模のグローバルなトラフィック製品になっている。だが、毎週100万人がAIと自殺について話しているという水準を、OpenAIがこの2年間でここまで正面から認めたことはなかった。
100万人とは、平均すると0.864秒に1回、誰かがChatGPT上で自傷に関する言葉を発している計算になる。
これは冷たい統計ではない。AIがどれほど心理相談の役割を担ってしまっているのかに、OpenAIが初めて真正面から答えた数字だ。
なぜ今なのか
過去18カ月のOpenAIを振り返ると、背景は見えやすい。
- 昨年、ChatGPTと10代の利用者との複数回の会話が自殺を誘発したとして、非正常死亡をめぐる訴訟に直面した。
- 2025年11月にはBBCが調査報道を行い、少なくとも1件のChatGPT会話が実践的な自傷方法の案内と認定された。
- 国内メディアが以前報じた「OpenAIが銃撃犯のアカウントを事前に把握していたが通報しなかった」とされる件では、その後、社内審査の設計に問題があるとの批判を受けた。
問題が起きるたびに、世論は同じ方向を向いた。OpenAIが持っているのは単なるプロダクトなのか、それとも事実上の心理支援ツールなのか。後者なら、同等の責任基準を負うべきではないのか。
Trusted Contactの設計は、その問いの半分に答えている。OpenAIは、この種の会話が頻繁に起きていることを認め、ユーザーが「現実世界の安全網」へ接続できるようにした。
手順として評価できる点
- ユーザーが連絡先を招待し、相手が7日以内に手動で承諾して初めて有効になる。OpenAIが勝手に誰かを監視関係へ組み込むのではなく、相手の理解と同意を取るための設計だ。
- 自動システムがリスクを検知しても、通知前に専門訓練を受けた人間のチームが確認する。OpenAIは、1時間以内の確認完了を目標にしている。
- 会話の原文は共有されない。連絡先が受け取るのは、「あなたを信頼している人が困難に直面している可能性があるので、連絡してほしい」という最小限の通知だ。
- 対象は18歳以上、韓国では19歳以上で、個人向けの無料または有料ChatGPTアカウントに限られる。EnterpriseやEduアカウントは対象外だ。
最後の条件は重要だ。企業向けを外したことで、OpenAIはこの機能を職場の危機介入ではなく、消費者の私的なメンタルヘルス問題への対応と位置づけている。
OpenAIは、完璧なシステムは存在せず、すべての通知は送信前に訓練を受けた人間が確認し、1時間以内の審査完了を目指すとしている。
この機能で問題は解決するのか
一部は解決する。
「AIがリスクを検知しても、その先の行動がない」という断絶はつながった。ただし、本当に難しい問題にはまだ踏み込んでいない。
- 誤検知：自殺リスクの検知は二値分類ではなく、偽陽性は高くなり得る。小説を書いている人、学術研究をしている人、単に愚痴をこぼしている人まで対象になる可能性がある。Trusted Contactが一度誤って作動すれば、存在しない危機が現実の人間関係に通知される。OpenAIは「人による確認」と「1時間SLA」でバランスを取ろうとしているが、規模が大きくなったときに耐えられるかは分からない。
- 悪用：例えば親が子どものTrusted Contactを自分に向けさせ、低いハードルで監視経路を作る場面は想像できる。OpenAIは「ユーザー自身が設定する必要がある」としているが、実行面では、親が子どものパソコンの前に座って設定を進めることを防ぐ手段は限られる。
- 専門的支援の代替にはならない：Trusted Contactは「リスクを検知した」という情報を現実の誰かに渡すだけだ。その人が通知後に何をするのか、何ができるのか、専門的に対応できるのかまではOpenAIの管理外にある。
とはいえ、この機能がすべてを解く必要はない。本当に問われているのは、AI企業が会話トラフィックから収益を得ながら、ユーザーの心理状態を完全にアルゴリズム任せにしてよいのかという正当性だ。
通知先の権限をユーザーに渡し、確認を人間に戻し、実際の介入を現実の関係へ委ねる。そこはTrusted Contactが正しく設計した部分だ。
そしてこれは、この2年間のAI企業の中で初めて、100万人がAIと自殺について話しているという事実は、エンジニアリングの問題ではなく社会の問題だと認めた瞬間でもある。
参考資料：CocoLoop、Introducing Trusted Contact in ChatGPT（OpenAI）、ChatGPT can reach out to a friend if you're at risk of self-harm（Engadget）、OpenAI Adds Trusted Contact Safety Feature to ChatGPT for Self-Harm Risk Notifications（gHacks Tech News）