今年2月5日、OpenAIはGPT-5.3-Codexをリリースし、プログラミング能力が大幅に向上した。しかし同時に、あまり好ましくないラベルも付与された。OpenAIの内部安全評価フレームワークによる初の「高」サイバーセキュリティリスクレベルである。
どの程度危険なのか？
OpenAI自身は婉曲的に述べている。「このモデルがサイバー攻撃を完全に自動化できるという確固たる証拠はない」が、「予防措置として」「これまでで最も包括的なサイバーセキュリティ防御スタック」を展開したとしている。
平たく言えば、このモデルのプログラミング能力は臨界点に達しており、大規模に自動悪用された場合、サイバーセキュリティ分野で現実的な被害を引き起こす可能性があるということだ。
セキュリティ対策
OpenAIは複数の防御層を実装した：
- 安全訓練：モデルレベルのアライメント
- 自動監視：不審なリクエストの検出
- 段階的アクセス：高リスク操作は信頼できるユーザーのみに開放
- ダウングレードルーティング：高サイバーセキュリティリスクと判定されたリクエストは、自動的に前世代のGPT-5.2にルーティングされる
リリースのペースも異例に慎重で、開発者向けの全面開放は延期された。
その後の波紋
カリフォルニア州のAI安全規制当局はその後、今回のリリースが同州で新たに可決されたAI安全法に違反する可能性があると主張した。OpenAIはこの主張を否定している。
3月にはCodexのGitHubトークン漏洩の脆弱性も発覚し、後にパッチが適用された。
OpenAIはまた、2023年に開始した100万ドルのサイバーセキュリティ助成プログラムを拡大し、サイバー防御研究を支援するために1000万ドルのAPIクレジットを拠出した。
この背景には深いジレンマがある。プログラミング能力が高まれば高まるほど、悪用のリスクも高まる。モデル能力の向上とセキュリティリスクの増大はほぼ線形の正の相関関係にある。OpenAIは「防御してからリリースする」のではなく、「リリースしてから防御する」という路線を選択した。この選択については、業界内で意見が大きく分かれている。
出典：CocoLoop、Fortune報道