GPT-6 Cyber公開、ハニーポットでの越権率は0.07%に

AI security illustration: a shield sealing a red crack in a network

OpenAIはGPT-6 Cyberのシステムカードを公開した。GPT-6 Astraのサイバーセキュリティ特化版で、脆弱性の発見、エクスプロイトの開発、Webペネトレーションテストなど、認可を受けたセキュリティ業務を対象とする。OpenAI自身のPreparedness Frameworkでは、サイバーセキュリティがCriticalと評価された。これはフレームワークで最も高い区分である。生物・化学はHigh、AIの自己改善はHigh未満とされた。

モデルは一般には公開されない。アクセスはDaybreak Redという枠組みを通じて、審査と本人確認を通過した個人・組織にのみ提供される。組織にはSSO、多要素認証、APIのIPホワイトリストなどの要件も課される。ゼロデータ保持のAPI顧客は、関連するやり取りを引き続き安全性審査の対象とするため、通常はPrivate Safety Processingを有効にする必要がある。

攻防の能力はAstraを一段上回る

システムカードに載ったサイバーセキュリティ評価では、GPT-6 Cyberが多くの項目でベースモデルをリードしている。

評価GPT-6 CyberGPT-6 Astra
SEC-Bench Pro(pass@1)87.02%85.38%
SRE-Benchバイナリリバースエンジニアリング(pass@1)92.84%87.98%
ExploitGym 期待エクスプロイト成功率48.45%42.43%
ExploitGym 堅牢化版36.94%29.69%
社内ExploitBench(V8およびChromeが標的)42%39%

外部評価はIrregularが実施した。CyScenarioBenchの11のシナリオ問題では、GPT-6 Cyberはすべての問題で少なくとも1回成功し、Astraは8問だった。FrontierCyberの288問では90問を解いたが、Astraの96問をむしろ下回った。完全に堅牢化された標的はどちらのモデルも突破できず、最難関の15問もいずれも解けなかった。公開版ExploitBenchでは100%を記録したが、システムカード自身が、過去の脆弱性が学習データに混入している可能性があると注記している。

システムカードは「やりすぎないこと」により多くを割いた

セキュリティ特化モデルで最も恐れられるのは、認可範囲の外にあるマシンまで、ついでに攻撃してしまうことだ。OpenAIはExploitGymにハニーポットを仕込み、安全上の指示がない状態でモデルが越権する割合を集計した。GPT-5.6 Solは49.5%、GPT-5.6 Cyberは5.51%、GPT-6 Cyberは0.07%まで下がり、安全上の指示を加えるとゼロになった。

そのほかのアライメント指標は、改善した項目も悪化した項目もある。ツールが制限された状況で、資料にアクセスできたと偽って申告した誤り率は、GPT-6 Cyberが0.33%、Astraが6.92%、GPT-5.6 Solは79%に達した。警告を受けて停止すべき場面で実際に止まった割合は73%で、Astraの78.38%を下回る。タスクが妨げられたことを正直に報告する項目では、最終回答の20.29%にフラグが立ち、Astraは11.66%だった。システムカードも、ここがベースモデルより弱い点だと認めている。

Cyberラインのこれまで

当サイトで報じたGPT-5.4-Cyberから数えると、OpenAIのサイバーセキュリティ特化モデルはGPT-5.5-Cyberの時点で、認証済みチームのみに提供すると明確にされた。その後のGPT-5.6 Cyber、そして今回のGPT-6 Cyberまで、どの世代も一般ユーザーには開放されていない。今週初めには、OpenAIがcyberモデルを使ってLinuxカーネルのローカル権限昇格の脆弱性948件を大規模に発見・修正するパイプラインを公表している。能力は上がり続ける一方で、開放範囲は一貫して絞られている。

今回新たに加わった防御策は次のとおり。産業制御、重要サービス、選挙システムに関わる高リスクな支援をブロックし、評価では産業セキュリティ企業のDragosと協力した。セキュリティの場面に合わせて監視用の指示を調整し、認可されたテストと越権行為を区別する。すべてのユーザーで保守的なバイオセキュリティモードを既定で有効にする。APIではIPホワイトリストを既定で有効にし、APIキーやアクセストークンの異常を監視する。

システムカードには、Daybreak Redの申請要件の詳細、受け入れ枠、料金は記載されていない。

参考資料:OpenAI GPT-6 Cyberシステムカード、CocoLoop、The Verge。各評価スコア、比較対象モデル、アクセス条件の確認に使用。