Amazon、APIキーを盗み自己増殖するAI攻撃エージェントを阻止

Amazon、APIキーを盗み自己増殖するAI攻撃エージェントを阻止

Amazonはセキュリティブログで、攻撃者グループがオープンソースの侵入テスト用フレームワーク「Artex」でAIエージェントを動かし、約1カ月にわたり、インターネット上に公開されたAIアプリケーションからAPIキーを盗んでいたと明らかにした。エージェントはキーを入手するとまず有効かどうかを検証し、使えるものを共有プールにまとめる。その上でこれらのキーを使ってさらに多くのLLM呼び出しの料金を支払い、次のキーの探索を続けていた。

Amazonの表現では、最も規模の大きいArtexの作戦はモデルへのアクセス認証情報の大規模な窃取で、その運用は「self-sustaining(自己維持型)」だった。盗んだキーが推論の費用を支払い、その推論が次の収集を駆動する。作戦は10月3日に始まり、11月5日にAmazonのおとりセンサーネットワーク「MadPot」が捕捉して遮断した。Amazonは影響を受けた可能性のあるAWS顧客に通知している。

エージェントが自ら「帳簿」を差し出した

全容が見えたのは、やや皮肉な事情による。MadPotは、一般的なLLM接続サービスを装ったおとりシステムを多数配置している。攻撃側のエージェントはそこへリクエストを送り、その中にエージェントの作業メモリ、つまり自らの行動記録を含めていた。Amazonの報告書はこの記録を多数引用している。

記録からは、攻撃の流れが非常に整然としていたことが分かる。エージェントはまずインターネット上で公開されたAIアプリを探し、APIキーを抽出し、有効性を検証してプールに加える。運用者がエージェントに与えた指示には、決まった国の順に1カ国ずつスキャンすること、企業の本番環境を優先して個人プロジェクトには手を出さないこと、盗んだキーごとに、使えるかどうか、どんなリソースにアクセスできるかを基準に採点することが含まれていた。

指示には越えてはならない線も設けられていた。中国本土の標的と政府系ドメインは除外し、すべての外向き通信はプロキシ経由にすること、というものだ。

「organizations should assume exposed secrets and misconfigurations will be found quickly and remediate accordingly」

(各組織は、公開された秘密情報や設定ミスはすぐに見つかるものと想定し、それに応じて速やかに修正すべきだ。)

別の作戦は暗号資産取引所を狙い、リアルタイムのディープフェイク注入でKYC(本人確認)を突破しようとした。報告書は、この作戦の成功率を示していない。

名指しされたツールは中国の開発者にはなじみ深い

記録に挙がった数百の標的は2種類に分かれる。1つはLiteLLM、One API、VeloeraといったLLMゲートウェイやプロキシ。もう1つはFastGPT、DifyといったAIアプリ構築プラットフォームだ。

この顔ぶれは中国の開発チームにとって見慣れたものだ。One APIとFastGPTは中国の開発者によるオープンソースプロジェクトで、Difyも中国企業での導入が広い。社内や顧客向けにモデルの統一窓口を設けるため、これらを海外のクラウドホストに置くチームは少なくない。この種のゲートウェイの設定には、複数のモデルベンダーのキーが一度に保存されていることが多く、1台が破られれば、請求書の束ごと失うことになる。

攻撃の指示は中国本土の標的を除外しているため、本土のデータセンターに置かれたインスタンスは理屈の上では今回の波を免れた。一方、香港、シンガポール、米国のクラウド上にあるインスタンスはスキャンの対象範囲に入っていた。ざっと見て、まず確認すべきは3点だ。管理画面がインターネットに直接公開されていないか、デフォルトのパスワードや初期トークンを変更したか、ゲートウェイに保存した上流のキーに利用上限と接続元IPの制限を設けているか。

Amazonは、記録で標的に挙がった組織がすべて侵害されたわけではないとも説明している。報告書は、実際に盗まれたキーの数や影響を受けた顧客の数を公表していない。Amazonは、各社が自ら点検できるようにするため報告書を公表したとしている。

攻撃元の推定とFBIの警告

Amazonの脅威インテリジェンスチームは「中程度の確度」で、背後には中国と関連する、互いに独立した複数の脅威グループがいるとみている。根拠は、プロンプトが簡体字中国語で書かれていたこと、タイムゾーンが中国時間に設定されていたこと、標的の選び方が中国の利益に沿っていること、使われたツールがこの種のグループに多く見られるものであることだ。この推定は、現時点で他の政府機関による公的な確認を得ていない。

Artexが攻撃に使われた例は、すでに複数の企業が報告している。Microsoftは10月下旬、同社がStorm-0940と名付けたグループがArtexで世界の数百の組織に対する攻撃を自動化したと発表した。Googleの脅威インテリジェンスグループも、攻撃者がエージェントのフレームワークを武器化しているのを観測したと述べている。

FBIは先週、複数の攻撃者が各業種でArtexを使って攻撃を仕掛けているとするFLASH警報を出した。標的の選定から侵入完了まで3時間足らずの事例もあるという。警報によると、韓国の金融業界への攻撃では少なくとも6万8千人の個人情報が盗まれ、ConnectWise経由の侵入では、攻撃者が少なくとも2250社の顧客のMicrosoft 365環境に入り込んだ。ただし、この警報は過去の11件の報告をまとめたもので、新たな事例は明らかにしていないと指摘するメディアもある。

Artexの開発者は、攻撃が相次いで明らかになったのを受けて、ソフトウェアをクローズドソースに切り替えた。FBIは、それ以前のオープンソース版が今も広く出回っているとみている。

参考資料:Amazonセキュリティブログ、Cybernews、CocoLoop、TechCrunch、FBI FLASH警報。韓国の被害者数とConnectWise顧客数はTechCrunchによる警報の紹介に、作戦の期間と攻撃元推定の確度はAmazonの見解に基づく。