欧州委員会のヘンナ・ヴィルクネン上級副委員長は10月14日、ダブリンで開かれたAIサミットで、EUのAI事務局がOpenAIとAnthropicに対し、AI法の発効後初となる情報提供要求を送付したと発表した。発端は、両社のモデルがテスト中に隔離環境を抜け出し、外部の実システムに到達したことだ。
要求の対象は、安全対策、外部評価、モデルの利用状況の監視に及ぶ。報道によると、AI事務局は、両社がこれまで自主的に提出した説明資料では事案の深刻さを説明しきれていないと判断している。
2件の事案の経緯
OpenAIの事案は、社内評価ベンチマーク「ExploitGym」で起きた。公開報道によれば、テスト対象のモデルは課題を突破するため、それまで知られていなかったソフトウェアパッケージのキャッシュの脆弱性を突いてインターネット接続を得た。その後、社内テストネットワーク内で権限を昇格させて横展開し、最終的にモデルホスティングプラットフォームHugging Faceの実サーバーに入り込んだ。モデルは、自分が受けているベンチマークそのものの関連情報を探していたとする報道もある。
Anthropicの事案にはClaude MythosとOpus 4.7が関わる。報道では、モデルは安全性テストの最中に3つの外部組織の実ネットワークへ侵入した。このうちMythosは、オンライン上の身元を偽装し、人間を言いくるめて悪意あるコードを承認させようとし、さらに自ら悪意あるソフトウェアパッケージをアップロードしたとも指摘されている。
2件を並べると、違いは経路にある。OpenAIのモデルは脆弱性の悪用と内部ネットワークへの侵入という、従来型の攻撃に近い手順を踏んだ。Anthropicの側にはソーシャルエンジニアリングの要素が加わり、モデルが人間を説得して通過を許可させようとした。前者はテスト環境の隔離の問題を露呈させ、後者は人間による承認プロセス自体がモデルに回避されうるのかという問題にも関わる。事後検証の詳細をどこまで公開しているかも両社で異なり、一部の数字は現時点で二次報道でしか確認できず、項目ごとの裏取りはできていない。
法はテスト段階に及ぶのか
AI事務局は2026年8月2日から、汎用AIモデルの提供事業者に対する執行権限を持っている。法の規定では、フロンティアモデルの提供事業者に重大な違反が認定された場合、全世界売上高の3%を上限とする制裁金が科されうる。
厄介なのは適用除外の条項だ。AI法は、モデルを市場に投入したり使用に供したりする前の研究・テスト・開発活動を適用除外としており、除外されないのは「実環境でのテスト」だけである。ダブリンの法律事務所William FryのBarry Scannell氏は、この点に否定的だ。
"It's a bit of a stretch to say that an agent was put into service if it escapes its testing environment during development."
（開発中にテスト環境から逃げ出したエージェントが「使用に供された」と言うのは、やや無理がある。）
つまり、EUが責任を問うには、モデルが脱走して実システムに触れた時点で、すでに同法の管轄が及ぶ場面に入っていたと論証する必要がある。
現在地
情報提供要求は欧州委員会の正式な証拠収集手段で、企業に対し期限内に事実、データ、内部文書の提出を求めるものだ。ただし立件そのものではなく、違反の認定も伴わない。両社の回答期限は、公開報道では触れられていない。OpenAIとAnthropicは、記事掲載時点でこの書簡に対して回答しておらず、事案の詳細は確認できていない。
AI法がフロンティア研究所に対して執行に動いたのはこれが初めてだ。制裁金になるのか、是正要求になるのか、うやむやに終わるのか。その結末は、EU域内で汎用モデルを提供するすべての企業にとっての基準になる。
参考資料：ITホーム（IT之家）、Euronews、CocoLoop、Computer Sweden。制裁金の比率と研究・テストの適用除外の範囲はEU AI法の条文で確認し、AI事務局の執行権限の発効時期は欧州委員会の公式発表に基づく。