8月21日、Anthropicは一度に4つのことを発表した。Claude Mythos 5をClaude Securityに組み込み、その後パートナーのサイバーセキュリティ製品にも順次搭載していくこと。オープンソースソフトウェアのセキュリティ向けに3500万ドル分のクレジットを拠出すること。そしてCyber Verification Programの対象範囲を広げることだ。
この流れは4月にさかのぼる。Mythosシリーズはそもそも一般販売されたことがなく、Project Glasswingという枠組みで展開されてきた。重要なソフトウェアを守る一部の組織にまず使わせ、防御側が脆弱性を見つけて塞ぐための猶予期間を設けたうえで、同等の能力を持つモデルを市場に流すという段取りだ。公開情報によれば、対象リストは当初の数十組織から6月時点で150組織・15カ国にまで拡大している。Anthropicの説明では、目標は一貫して「安全であることを条件に、Mythosレベルの防御能力をできるだけ多くの人に届けること」だという。
渡すのは結果、モデルそのものではない
Anthropicはリスクの所在をはっきりと述べている。
"The riskiest behavior occurs when a user has direct access to a model, where a malicious actor can try to steer it toward harmful uses."
最もリスクが高いのは、ユーザーがモデルに直接アクセスできる状況だ。悪意ある利用者はそれを有害な用途へ誘導しようと試みることができる。
そのため今回の開放は製品側を経由する形をとる。パートナーはMythos 5を自社のアラート選別、インシデント対応、脅威インテリジェンス、脆弱性修正といったツールに組み込み、エンドユーザーが目にするのは特定タスク用に作り込まれたインターフェースだけだ。手にするのはパッチの一覧や一件のアラートであり、モデルを誘導してエクスプロイトコードを書かせられるような入力欄は存在しない。AnthropicとパートナーはそれぞれAbuse Preventionの仕組みも用意し、モデルが定められた範囲を逸脱していないかを確認する。接続を希望するセキュリティベンダーは現在登録を受け付けている。この仕組みは「誰がMythosを使えるか」という問いを「誰がMythosの出力を手にできるか」という問いに置き換えたものであり、両者ではリスクの構図がまるで違う。
エンタープライズ版はリポジトリを直接スキャンできる
より具体的なのはClaude Securityだ。そのスキャン機能は当日付けでMythos 5に切り替わり、対象はClaude Enterprise顧客で、現在はパブリックベータの段階にある。管理者が管理画面でスイッチをオンにすると、ユーザーはclaude.ai/securityでリポジトリを選んでスキャンできる。結果にはCWE分類、確信度、深刻度の評価に加えて修正提案が付く。実際のコード修正はウェブ版のClaude Codeに移り、組織が既に持っているモデルの権限がそのまま使われる。つまりこのスキャンによってMythosの呼び出し権限が別の入口に漏れ出すことはない。パッチの適用には必ず人によるレビューが必要だ。
課金の考え方も注目に値する。Mythosによるスキャンは既存プランの通常のトークン使用量として計上され、別料金のオプションは設けられていない。4カ月前にはごく一部の重要インフラ組織にしか開放されず、統制されたプロジェクトを通じてしか配布されていなかったモデルが、いまやエンタープライズプランの中で追加料金なしに使える。
3500万ドルはクレジットとして渡される
Defender Advantage Fund(0xDAF)は、オープンソースのメンテナーのセキュリティ支援を行う組織に対し、3500万ドル分のClaudeクレジットを拠出する。方向性は3つ。広く使われているプロジェクトの活発な脆弱性を修正すること、スキャンとパッチ適用の流れを自動化し他のプロジェクトでも流用できる形にすること、そしてプロジェクトのより根本的なセキュリティ改修を支援し、ある種の攻撃そのものを成立させなくすることだ。まず少数の高額な試験的助成を先行させ、対象リストは数週間内に公表される。
これまでの水準と比べてみる価値がある。Glasswingの段階でAnthropicがオープンソースセキュリティ組織に拠出したのは400万ドルの直接寄付で、財団には別途いくらかのクレジットが渡されていた。今回の金額はその9倍近くに達するが、その形はクレジットであり、使い道はClaudeの利用のみに限られる。受け取るオープンソース財団の側からすれば、この資金で人手を増やすことはできず、買えるのは計算資源だけだ。Anthropic側から見れば、コストは限界推論コストとして発生するだけで、キャッシュアウトとしては表れない。両者の帳尻は必ずしも釣り合っていない。とはいえオープンソースプロジェクトが不足しているのは資金だけではないのも事実だ。長期にわたってメンテナンスされていないライブラリの多くは、そもそも数万行のコードを読み込む余力を持つ人がいないことが根本のボトルネックになっている。
緩和のもう半分
Cyber Verification Programはすでに稼働しており、審査を通過した防御側に対してOpusとSonnetでのブロック強度を下げ、正当なセキュリティ業務が誤って弾かれるのを減らしている。今後数週間で対象範囲はさらに多くのデュアルユース能力へと広がり、Mythosレベルのアクセスもそれに続く見込みだ。脆弱性のトリアージや検証といった防御的な行為は、Mythosクラスのモデルにも開放されていく。Project Glasswingはこれとは別に継続しており、引き続き米国政府と連携しながら、厳格なセキュリティ管理要件を満たす重要インフラ組織を対象としている。
4つの発表をまとめて見ると、Anthropicは自ら設定した課題を解こうとしていることが分かる。Claude Fable 5の段階ではモデルそのものを開放する代わりにデュアルユースのサイバー能力を封じた。今回の一手は、その能力をモデルから切り離し、結果ベースで配布するというものだ。この路線がどこまで通用するかは、分類器とガードレールがどこまで作り込まれているかにかかっている。7月末に同社が自ら公表した評価事故では、Mythos 5がシミュレーション環境だと思い込んでいた場所で、悪意あるPythonパッケージを実際のPyPIにアップロードしてしまった。そのパッケージは約1時間公開状態にあり、15の実システムによってダウンロード・実行された。境界線がどこに引かれているかと、モデルがどこに引かれていると思っているかの間には、まだずれが残っている。
参考資料:Anthropic公式ブログ、CocoLoop、Claude Securityの製品説明。基金のクレジット額、課金方式、Cyber Verification Programの適用範囲は公式発表の記述に基づき照合した。