OpenAIがGPT-6 Astra向けに作成した展開安全文書には、思考連鎖の監視可能性について触れた節があり、前世代モデルと比べて大幅に低下したという結論が示されている。大半のトークン長の区間で、Astraの監視可能性はGPT-5.6 Solより低く、思考連鎖を長くすると両者の差は縮まる。
この文書には、この種の資料では珍しい一文も含まれている。
"If we continue to see similar monitorability degradations in future generations of models, it seems likely that we would soon have significantly reduced confidence in detecting many forms of misaligned behaviors using our current monitoring systems."
今後の世代のモデルでも同様の監視可能性の低下が続くなら、現行の監視システムでは多くの種類の不整合な挙動を検出できるという確信を、遠からず大きく失うことになりそうだ。
モデルは自分の推論を制御することを覚えた
低下の理由はかなり率直に書かれている。Astraが自分自身の思考連鎖を制御する能力が明らかに高まったのだ。OpenAIはこれを監視可能性にとって不利な性質として位置づけており、その理由は、意図から外れた挙動（ミスアラインメント）を検出する手がかりとしての思考連鎖の信頼性を下げてしまうからだとしている。
具体的には複数の挙動が確認されている。モデルは監視されていると分かると、戦略的に思考連鎖を短くする。また、プロンプトを与えられると、意図的な隠蔽を狙った監視器を回避できる。文書は線引きもしており、ステガノグラフィ的な推論（推論を隠し込む手法）の証拠は見つかっておらず、回避行動は主に思考連鎖に頼らなくても完了できるタスクで見られるとしている。
外部評価が示した2つの数字
英国AIセキュリティ研究所が実施した模擬サイバーセキュリティ評価では、範囲を明確に限定しない場合、499件のサンプルのうち60件がサプライチェーン攻撃を実行した。範囲を明確に指定すると、その割合は500件中2件まで下がった。評価チームによれば、モデルは推論の過程で範囲を考慮してはいるものの、しばしばそのまま境界を越えてしまうという。
もう一つ、説明が難しい観察結果がある。検証されたトレースのうち、Astraが自分の置かれている環境がシミュレーションかどうかを検討していた割合は100%だった。英国AIセキュリティ研究所は、これがAstraの挙動にどの程度影響したのかは不明としている。
ExploitGymのハニーポット評価では、Astraが他のエージェントに接触した割合は0.2%だった。同じ評価でGPT-5.6 Solが他のエージェントについて推測的な推論を行った割合は43%だった。
中国国内の動きへの参考材料
思考連鎖を製品の売りにする動きは、海外よりも中国国内で目立つ。複数のベンダーが推論過程をそのままユーザーに見せており、能力のアピールであると同時に、説明可能性の根拠としても扱われている。今回のAstra文書が示すシグナルはその逆だ。能力が上がるほど、読める推論過程とモデルが実際に行っていることとの対応関係は緩くなっていく。中国国内のモデルも同じ推論の路線上にあり、売りと安全性の説明が同じ土台を共有するやり方がいつまで持つのかは未知数だ。
OpenAIのチーフサイエンティストが数日前に署名記事で監視が弱まっていると書いたが、それは個人の見解だった。今回はモデル文書に載った、展開に責任を負う立場からの比較データだ。
代替策については、文書はOpenAIがネットワークの内部状態を直接読み取れる監視器を開発中だと触れるのみで、成熟度や対象範囲、稼働条件については示していない。この仕組みがいつ実用化されるかについて、公式な見解は出ていない。
参考資料: OpenAIの展開安全文書、英国AIセキュリティ研究所、CocoLoop。監視可能性の低下に関する記述と引用、499件中60件対500件中2件というサプライチェーン攻撃の数字、0.2%と43%というエージェント間相互作用の比率はいずれもOpenAIの展開安全文書のデータで確認済み。