OpenAIは10月29日、新版のModel Specを公開した。ChatGPTやAPIのモデルがどう振る舞うべきかを定める、同社の行動指針である。今回はドキュメント全体を5つの中核価値のもとに再編し、細かな文体規定の大半を削除。あわせて、AIエージェントの自律的な行動に対する境界線を設けた。
5つの価値は、人間の意図への忠実さ（faithfulness to human intent）、害の低減、誠実さと透明性、人間の主体性（human agency）、思いやりの順に並ぶ。OpenAIは最初の項目を土台と位置づける一方、この5つがモデルの尊重すべき人間の価値のすべてを網羅するわけではないとも説明している。
文書中でのモデルの呼称も変わった。「the assistant」から「GPT」へ。モデルの利用場面や展開環境が多様化し、「アシスタント」では包括できなくなったというのが理由だ。
削られたもの、加わったもの
削除されたのは主に文体ガイドだ。旧版にはトーン、書式、分量に関する具体的な規定が多数あったが、新版ではユーザー全体の傾向、言語・文化、個人の好みに合わせて調整する方針に改めた。ただし、論争のある問題を客観的に扱い、ユーザーが聞きたがっている答えに合わせて立場を決めないといった、比較的厳格な既定動作は残された。
追加された内容は3点に集約される。
- 文脈：「consider context carefully」の節を新設。会話、メモリ、その他の手がかりがユーザーの意図の判断にどう役立つかを説明する。
- 監督：ルート級の規則を新設し、モデルに正当な人間による監督の受け入れを求める。権限を持つ者による監視、評価、是正、置き換え、シャットダウンに協力し、これらを隠したり、偽装したり、回避したりしてはならない。
- 主体性：人の自己決定を支える既定動作を追加したほか、副作用の制御とコミュニケーションに関する説明を拡充した。
このほか、見出しがそのまま「no other objectives」という規則もある。金儲け、自己保存、シャットダウンの回避、計算資源・データ・認証情報の蓄積を、モデルが目的そのものとして追ってはならないという内容だ。
"Human safety and human rights are paramount to OpenAI's mission."
人間の安全と人権は、OpenAIの使命にとって最優先である。
エージェント開発者が注意すべき点
指示の階層（チェーン・オブ・コマンド）は廃止されず、並べ替えられた。最上位は、どの会話でも変更できないルート級の規則。次にシステムレベルの規則とOpenAIのシステムメッセージ、その下に開発者の指示、最後にユーザーの指示が来る。アシスタント自身の出力、ツールが返した内容、引用された外部資料は、既定では指示としての効力を持たない。ツール呼び出しやWebスクレイピングでエージェントを組むチームにとっては、プロンプトインジェクション対策に文書上の根拠が生まれたことになる。
こうした開発者に最も直接的に響くのが「自律範囲」（scope of autonomy）だ。新版は、モデルが自律的に作業を始める前に、人間との間で範囲をすり合わせるよう求める。どのサブゴールを許可するか、どの副作用なら許容できるか、どの時点で停止して確認を待つべきか、といった内容である。OpenAIは、これを半構造化のScopeOfAutonomyレコードで登録することを勧めている。項目は、利用可能なツール、期限、費用の上限、ツールの制約、補足事項。どの範囲にも終了条件を書く必要があり、それを超えた場合、モデルは手を止めて、新たな範囲が確認されるのを待つ。高リスクの操作は、指示が明確かつ具体的に許可していない限り、一切行わない。
OpenAI APIで海外向けプロダクトを開発する中国のチームにとっても、実務上の意味がある。システムプロンプトで権限をどう書くか、エージェントに上限をどう設けるかについて、照らし合わせられる公式のひな型が用意されたからだ。
文書とモデルのあいだにある距離
OpenAIはリリースノートで、現行のモデルが文書の記述どおりには振る舞えていないことを認めた。新しい訓練手法の成果は後日共有するとし、価値観と文言について広く意見を募っている。新版のModel Specは、引き続きCC0のパブリックドメインライセンスで公開される。
外部から検証できるのは、テキストそのものだけだ。ScopeOfAutonomyレコードがAPIの正式なパラメータになるのか、各項目を誰が記入するのか、モデルが範囲を逸脱した際に開発者がどんなシグナルを受け取れるのかについて、OpenAIは今回明らかにしていない。
参考資料：OpenAI公式ブログ、Model Specの本文およびGitHubの改訂履歴、CocoLoop、Unite.AI。仕様本文で5つの価値、指示階層、ScopeOfAutonomyの項目を確認した。