8月19日、OpenAIは公式サイトでAPI顧客向けの告知を掲載した。対象となる顧客には引き続きゼロデータ保持（Zero Data Retention、ZDR）を提供し、リクエスト処理が完了すればプロンプトもモデルの応答も保持しない。同じ告知の中で、「プライベート・セーフティ・プロセッシング」と呼ぶ仕組みも予告した。OpenAIの従業員に元の内容を見せないまま、複数回にわたる関連するやり取りをまたいで濫用の兆候を検知するというものだ。
ゼロデータ保持自体は目新しい言葉ではない。金融、医療、法務といった業種の顧客が契約を結ぶ際、「そちら側には何も保存しない」を実現できるかどうかは、これまでも交渉が決裂しかねない条件だった。報道によれば、今回わざわざ単独で告知を出した背景には、モデルがより長く、より自動化された作業を任されるようになったことがある。1回のリクエストだけを見ても問題は分からず、リスクは一連のセッションに分散している。こうしたパターンを濫用検知でつかまえるには、比較対象となる何かを残しておく必要があり、それはゼロ保持とまさに正面衝突する。
検知を暗号化された箱の中へ
OpenAIが示した解決策は、比較可能な部分を顧客自身に管理させることだ。顧客のコンテンツは顧客が管理するインフラに置いてもよいし、OpenAIが保存する場合でも暗号鍵は顧客側が握る。自動化システムはこの暗号化されたコンテンツの上でセッションをまたいだ評価を行い、単発の孤立したリクエストではなく、複数の会話の入力と出力を見る。何かが検知されると、OpenAIに返されるのはシグナルだけだ。
a narrowly defined safety signal, without exposing the underlying prompts or responses
背後のプロンプトや応答を露出させない、狭く定義された安全シグナル。
シグナルを受け取った後、さらに踏み込んで調査するかどうかは顧客の判断に委ねられ、データを開示するかどうかも顧客が決める。同社の説明によれば、この仕組みはプラットフォームを悪用する人間だけでなく、逸脱したAIエージェントも監視対象になるという。
一つだけ、はっきりと書かれた例外がある。児童性的虐待素材（CSAM）の疑いがあるとフラグが立てられた画像については、ゼロ保持での運用下でも従来どおり保持され、人によるレビューと通報に使われる。これは現行の運用と変わらない。
Anthropicとの分岐
同じ課題に対して、別の企業はほぼ正反対の答えを出している。複数のメディアの報道によれば、Anthropicは対象となる一部のモデルについてセッションデータを30日間保持し、人によるレビューは制限されたアクセス経路を通じて行われ、誰が何を見たかは改ざん耐性のあるログに記録される。狙いは追跡可能性だ。何か問題が起きた際に完全な証拠のチェーンがあり、誰がデータに触れたかをすぐに確認できる。
OpenAIが賭けているのは、そもそも証拠のチェーンを生成しないことだ。二つの路線の分岐点は安全性能の差ではなく、企業顧客が何を恐れているかの違いにある。社内での濫用や事後の責任のなすり合いを恐れる企業は、改ざん耐性のあるログを好むだろう。一方、外部からの召喚状や国境をまたぐコンプライアンスを恐れる企業は、そもそもデータをベンダー側に置かないことを望む。30日間の保持ウィンドウは、おおざっぱに言えば、すべての会話が外部の法的手続きからアクセス可能な状態に1カ月間置かれることを意味する。複数の法域にまたがって事業を行う企業にとって、この1カ月は法務部門に説明しづらい。
海外展開を進めるチームがモデルを調達する際には、この点をそのまま質問リストに加えられる。データはどこにあるのか、鍵は誰が持つのか、安全ポリシーに抵触した後はどのようなプロセスをたどるのか。これまでこうした質問に対しては、「私たちはセキュリティを非常に重視しています」という一言しか返ってこないことが多かった。
白書が出るまではすべて予告にすぎない
プライベート・セーフティ・プロセッシングは現時点では一部の早期顧客のみでテストされている段階で、9月に段階的に公開し、同時に技術白書を発表する計画だ。今回の告知で明らかにされていない点は少なくない。どのモデルが対象になるのか、シグナルの粒度がどこまで細かいのか、誤検知が起きた場合に顧客がどのような異議申し立てのプロセスをたどれるのか。暗号化されたストレージ上でセッションをまたぐ分析を行う具体的な実装方法についても公開されていない。こうした説明は、白書が出るまでは約束にすぎず、検証可能な設計とは言えない。
企業の調達担当者にとって、今できることは9月というタイミングを覚えておくことだ。白書が公開されたら、今回の告知を読むよりも、それを自社のコンプライアンスチェックリストと一項目ずつ照らし合わせるほうがはるかに役立つ。
参考資料：OpenAI公式発表、CocoLoop、TechCrunch。ZDRの適用範囲、暗号鍵の帰属、プライベート・セーフティ・プロセッシングの公開計画はOpenAIの発表内容で確認した。