OpenAI는 5월 7일 ChatGPT에 Trusted Contact, 즉 신뢰 연락처 기능을 도입했다. 작동 방식은 간단하다. 이용자가 ChatGPT 설정에서 가족, 친구, 돌봄 제공자 같은 성인 연락처를 지정해 둔다. 자동 감지와 사람의 검토를 거쳐 이용자가 자해 위험 상태에 있다고 판단되면, ChatGPT는 이메일, 문자메시지 또는 앱 내 알림으로 그 사람에게 연락해 보라는 신호를 보낼 수 있다.
하지만 이 기능 자체보다 더 중요한 것은 그 뒤에 있는 숫자다.
100만 / 8억
OpenAI가 공개한 수치에 따르면 ChatGPT의 주간 활성 이용자는 8억 명이며, 그중 100만 명 이상이 대화에서 자살 생각을 표현한다.
8억이라는 분모는 놀랍지 않다. ChatGPT는 이미 Google, YouTube 다음급의 글로벌 트래픽 제품이 됐다. 그러나 매주 100만 명이 AI와 자살을 이야기한다는 규모를 OpenAI가 지난 2년 동안 이렇게 공식적으로 인정한 적은 없었다.
100만 명은 평균 0.864초마다 한 사람이 ChatGPT 안에서 자해와 관련된 말을 꺼낸다는 뜻이다.
이것은 차가운 통계가 아니다. AI가 사실상 얼마나 심리 상담 역할을 떠안고 있는지에 대해 OpenAI가 처음으로 정면에서 답한 숫자다.
왜 지금인가
지난 18개월 동안 OpenAI가 겪은 논란을 돌아보면 배경이 보인다.
- 지난해에는 ChatGPT와 한 청소년의 여러 차례 대화가 결국 자살을 유발했다는 주장으로 비정상 사망 소송에 직면했다.
- 2025년 11월 BBC는 조사 보도에서 최소 한 건의 ChatGPT 대화가 실행 가능한 자해 방법 안내로 판단됐다고 밝혔다.
- 국내 매체가 앞서 보도한, OpenAI가 총격범 계정을 사전에 알고도 신고하지 않았다는 사건 이후에는 내부 검토 체계 설계에 문제가 있다는 비판이 제기됐다.
문제가 터질 때마다 여론은 같은 질문으로 향했다. OpenAI가 다루는 것은 제품인가, 아니면 사실상의 심리 지원 도구인가. 후자라면 그에 맞는 책임 기준도 져야 하는가.
Trusted Contact의 설계는 그 질문의 절반에 답한다. OpenAI는 이런 일이 얼마나 자주 발생하는지 인정하고, 이용자가 ChatGPT를 현실 세계의 안전망과 연결할 수 있게 했다.
절차에서 맞춘 부분들
- 이용자가 연락처를 초대하고, 상대가 7일 안에 직접 수락해야 기능이 활성화된다. 상대를 OpenAI가 일방적으로 감시 관계에 넣는 것이 아니라 실제로 알고 동의하게 하려는 장치다.
- 자동 시스템이 위험을 표시하면, 알림을 보내기 전에 별도 훈련을 받은 인간 검토 팀이 확인한다. OpenAI가 잡은 목표는 1시간 안에 검토를 마치는 것이다.
- 대화 원문은 전달되지 않는다. 연락처가 받는 것은 신뢰하는 사람이 어려움을 겪고 있을 수 있으니 연락해 보라는 최소한의 안내다.
- 18세 이상, 한국은 19세 이상에게 제공되며 개인용 무료 또는 유료 ChatGPT 계정에만 적용된다. Enterprise와 Edu 계정은 제외된다.
마지막 조건은 중요하다. 기업용 계정을 제외했다는 것은 OpenAI가 이 기능을 업무 환경의 위기 개입이 아니라, 소비자 개인의 사적 정신건강 문제에 대한 대응으로 보고 있다는 뜻이다.
OpenAI의 공식 입장은 어떤 시스템도 완벽하지 않으며, 모든 알림은 발송 전에 훈련받은 사람이 검토하고 1시간 안에 심사를 마치는 것을 목표로 한다는 것이다.
이 기능이 문제를 해결하나
일부는 그렇다.
AI가 위험을 감지했지만 이후 조치가 없는 고리를 이어 붙였다. 그러나 정말 어려운 문제 몇 가지는 그대로 남아 있다.
- 오탐: 자살 위험 감지는 이진 분류가 아니며, 거짓 양성은 높을 수 있다. 소설을 쓰는 사람, 학술 연구를 하는 사람, 단순히 푸념하는 사람도 검토 대상이 될 수 있다. Trusted Contact가 한 번 잘못 활성화되면 존재하지 않는 위기가 현실 관계에 전달된다. OpenAI는 인간 검토와 1시간 SLA로 이 균형을 막고 있지만, 규모가 커졌을 때 버틸 수 있을지는 아무도 모른다.
- 악용: 예를 들어 청소년과 부모 사이에서 부모가 아이의 Trusted Contact를 자신으로 지정하게 만들면 낮은 문턱의 감시 통로가 생긴다. OpenAI의 방어선은 이용자가 직접 설정해야 한다는 점이지만, 실제 실행 단계에서 부모가 아이의 컴퓨터 앞에 앉아 설정을 누르는 것을 막을 방법은 거의 없다.
- 전문적 심리 지원을 대체하지 못함: Trusted Contact는 위험 감지 신호를 현실의 누군가에게 넘길 뿐이다. 그 사람이 알림을 받은 뒤 무엇을 할 수 있는지, 얼마나 전문적으로 대응할 수 있는지는 OpenAI가 통제할 수 없다.
그렇다고 이 기능이 모든 문제를 해결해야 하는 것은 아니다. 이 기능이 겨냥한 핵심은 AI 회사가 대화 트래픽으로 돈을 벌면서 이용자의 심리 상태를 전적으로 알고리즘에 맡겨도 되는가라는 정당성의 문제다.
알림 권한은 이용자에게, 검토 권한은 사람에게, 실제 행동은 현실의 관계에 맡기는 것. 그것이 Trusted Contact가 제대로 잡은 부분이다.
또한 지난 2년의 AI 회사들 가운데 누군가 처음으로 100만 명이 AI와 자살을 이야기한다는 사실은 공학 문제가 아니라 사회 문제라고 인정한 장면이기도 하다.
참고 자료: CocoLoop, Introducing Trusted Contact in ChatGPT(OpenAI), ChatGPT can reach out to a friend if you're at risk of self-harm(Engadget), OpenAI Adds Trusted Contact Safety Feature to ChatGPT for Self-Harm Risk Notifications(gHacks Tech News)