8월 19일, OpenAI는 공식 홈페이지에 API 고객을 대상으로 한 공지를 올렸다. 조건에 맞는 고객에게는 계속해서 제로 데이터 보존(Zero Data Retention, ZDR)을 제공하며, 요청 처리가 끝나면 프롬프트와 모델 응답을 보관하지 않는다는 내용이다. 같은 공지에서 OpenAI는 '프라이빗 세이프티 프로세싱'이라 부르는 메커니즘도 예고했다. OpenAI 직원에게 원본 내용을 노출하지 않은 채, 여러 차례에 걸친 연관된 상호작용을 넘나들며 오남용 징후를 식별하는 방식이다.
제로 데이터 보존은 새로운 용어가 아니다. 금융, 의료, 법무 분야 고객이 계약을 맺을 때 '그쪽에서는 아무것도 저장하지 않는다'를 보장할 수 있는지는 늘 협상을 좌우하는 조항이었다. 공개된 보도에 따르면, 이번에 별도로 공지를 낸 이유는 모델이 더 길고 더 자동화된 작업을 맡기 시작했기 때문이다. 요청 하나만 봐서는 문제를 알 수 없고, 위험은 일련의 세션에 흩어져 있다. 이런 패턴을 잡아내려는 오남용 탐지는 비교할 무언가를 남겨둬야 하는데, 이는 제로 보존과 정면으로 충돌한다.
탐지를 암호화된 상자 안으로
OpenAI가 내놓은 해법은 비교 가능한 부분을 고객이 직접 관리하도록 넘기는 것이다. 고객 콘텐츠는 고객이 통제하는 인프라에 남을 수도 있고, OpenAI가 저장하더라도 암호화 키는 고객이 쥔다. 자동화 시스템은 이 암호화된 콘텐츠 위에서 세션을 넘나드는 평가를 수행하며, 고립된 요청 하나가 아니라 여러 대화의 입력과 출력을 살펴본다. 무언가 걸리면 OpenAI로 돌아오는 것은 신호 하나뿐이다.
a narrowly defined safety signal, without exposing the underlying prompts or responses
배후의 프롬프트나 응답을 노출하지 않는, 좁게 정의된 안전 신호.
신호를 받은 뒤 더 깊이 조사할지 여부는 고객의 판단에 달려 있으며, 데이터를 넘길지도 고객이 결정한다. 회사 설명에 따르면 이 메커니즘은 플랫폼을 악용하는 사람뿐 아니라 궤도를 벗어난 AI 에이전트도 감시 대상으로 삼는다.
명확하게 적힌 예외가 하나 있다. 아동 성적 학대물로 의심되는 이미지로 플래그가 붙은 경우, 제로 보존 환경에서도 기존과 마찬가지로 인간 검토와 신고를 위해 계속 보관된다.
Anthropic과 갈라진 길
같은 문제에 대해 다른 회사는 거의 정반대의 답을 내놓았다. 여러 매체 보도에 따르면 Anthropic은 대상 모델 일부에 대해 세션 데이터를 30일간 보관하며, 인간 검토는 통제된 접근 경로를 거치고 누가 무엇을 봤는지는 위변조 방지 로그에 기록된다. 이 방식이 노리는 것은 추적 가능성이다. 문제가 생기면 완전한 증거 체인이 남아 있어 누가 데이터를 건드렸는지 바로 확인할 수 있다.
OpenAI가 노리는 것은 애초에 증거 체인을 만들지 않는 것이다. 두 방식이 갈라지는 지점은 안전 역량이 아니라 기업 고객이 실제로 두려워하는 것이 무엇이냐에 있다. 내부 오남용과 사후 책임 떠넘기기를 걱정하는 기업은 위변조 방지 로그를 선호할 것이고, 외부 소환장과 국경을 넘나드는 컴플라이언스를 걱정하는 기업은 애초에 데이터가 공급업체 손에 들어가지 않기를 바랄 것이다. 30일 보존 기간은 대략적으로 계산하면 모든 대화가 한 달 동안 외부 법적 절차가 접근할 수 있는 상태에 놓인다는 뜻이다. 여러 법역에서 사업을 하는 기업에게 이 한 달은 법무팀에 설명하기 쉽지 않다.
해외 진출 팀이 모델을 도입할 때는 이 항목을 곧바로 체크리스트에 넣을 수 있다. 데이터가 어디에 있는지, 키는 누가 쥐는지, 안전 정책에 걸린 뒤에는 어떤 절차를 거치는지. 예전에는 이런 질문에 대개 '보안을 매우 중요하게 생각합니다'라는 답변 정도만 돌아왔다.
백서가 나오기 전까지는 모두 예고편
프라이빗 세이프티 프로세싱은 현재 소수의 초기 고객을 대상으로만 테스트 중이며, 9월에 단계적으로 공개하고 동시에 기술 백서를 발표할 계획이다. 이번 공지에서 밝히지 않은 부분도 적지 않다. 어떤 모델이 대상인지, 신호의 세밀도가 정확히 어느 정도인지, 오탐이 발생했을 때 고객이 밟을 이의제기 절차는 무엇인지. 암호화된 저장소 위에서 세션을 넘나드는 분석을 수행하는 구체적인 엔지니어링 방식도 공개되지 않았다. 이런 설명들은 백서가 나오기 전까지는 약속일 뿐, 검증 가능한 설계는 아니다.
기업 구매 담당자가 지금 할 수 있는 일은 9월이라는 시점을 기억해 두는 것이다. 백서가 나오면 오늘의 공지를 읽는 것보다, 그것을 자사의 컴플라이언스 체크리스트와 항목별로 대조하는 편이 훨씬 유용할 것이다.
참고 출처: OpenAI 공식 공지, CocoLoop, TechCrunch. ZDR 적용 대상 범위, 암호화 키 소유권, 프라이빗 세이프티 프로세싱 공개 일정은 OpenAI 공지를 기준으로 확인했다.