OpenAIはセキュリティチームの「最初の目」の一部をモデルに委ねている。新たなアラートはまずAIが選別し、影響の大きい判断だけを人間が担う。8月17日付のセキュリティ関連記事で、グレッグ・ブロックマン氏がこの体制を公表した。同時に、より具体的な主張も示した——セキュリティチームはAIを脆弱性を多く見つけるためだけに使うのではなく、実際に重要な脆弱性を修正するまでの道のりを短縮するために使うべきだという。
これは単独の機能リリースではない。むしろOpenAIが自動化された攻防のペースについて公に説明したものに近い。モデルはすでに脆弱性、設定ミス、過剰な権限を持つID関係をつなぎ合わせて攻撃経路を組み立てられるようになっており、防御側が従来のチケット処理のペースのままでは、能力の向上より先に未処理案件の山が脅威になりかねない。
アラート選別をまず自動化
OpenAIによると、今日では最初のセキュリティアラートの「ほぼすべて」がまずAIシステムによる選別を経てから人間の担当者に回される。同社は検知結果を、範囲を限定した自動対応にもつなげているが、影響の大きい判断は人間に残している。
記事の原文には次のようにある。"The goal is to ensure we can detect and respond to security issues at machine speed."(目標は、マシンの速度でセキュリティ問題を検知し対応できるようにすることだ)。平たく言えば、機械が得意とする反復的な選別作業のスピードを上げる一方で、権限拡大や本番環境の変更、インシデント判断は引き続きセキュリティ担当者が担うということだ。
記事が挙げる個人的な事例も、同社が広めたい作業スタイルを物語る。ブロックマン氏は一般公開されているGPT-5.6 Solに自身の静的サイトをチェックさせたところ、約15分で13件の問題が見つかった。その後約1時間で、DNS、TLS、依存関係、デプロイの移行に関する修正も完了したという。この事例はあくまで同社トップ個人のものであり、一般的な性能基準として扱うべきではないが、「発見・検証・修正」を一つのワークフローに圧縮する方向性を示している。
まず最も狭い範囲からスキャンする
OpenAIは、企業が無人のセキュリティ運用センターをいきなり構築するよう勧めているわけではない。示している道筋はかなり慎重だ。まず一つのコードリポジトリに対して読み取り専用のスキャンを行い、次にモデルにすでにクローズ済みのアラートを読ませる。そのプロセスの信頼性が確認できてから、プルリクエストのレビュー、稼働中アラートの選別、範囲を明確に絞った誤検知の自動クローズへと進む。
この順序には注目する価値がある。セキュリティ自動化が問題を起こしやすいのは、モデルが異常を発見できるかどうかよりも、その異常がどんな権限に接続されているかという点であることが多い。記事は最小権限、ネットワーク分離、監視、段階的リリースといった従来型の統制の重要性を繰り返し強調している。AIがワークフローに組み込まれても、これらの統制が不要になるわけではなく、むしろより明確にしておく必要が増す。
開発チームにとって、いま検証すべき指標は「モデルがいくつ問題を見つけたか」だけではない。より実用的なのは、優先度の高い問題が発見から確認までどれだけ時間がかかったか、修正に回帰テストが伴っているか、自動化の動作が常に権限の境界内に収まっているか、といった点だ。OpenAIの今回の表明は、こうしたエンジニアリング指標をAIセキュリティ製品の語り口の前面に押し出した。
参考資料：OpenAIのセキュリティ記事、CocoLoop、AIアラート選別と人間の判断境界、個人サイト事例の検証。