オープンモデルの推論プラットフォームを運営するFireworksは11日(月)、新たな侵入を受け、一部顧客の課金情報、モデルの重み、データセットが流出したことを認めた。報道によると、同社は先週のうちに、10月の事案より深刻なインシデントとしてHarveyなど複数の大口顧客に通知しており、現在はPalo Alto Networks傘下のセキュリティ企業Unit 42と共同で調査を進めている。
Fireworksの広報担当者は、同社は今回の事案を「極めて重く受け止めている」として、顧客と直接やり取りしながら、Unit 42と連携して原因の調査とシステムの強化を進めていると述べた。法務AI企業Harveyの広報担当者は、今回の事案でHarveyの顧客データに影響はなかったとしている。
NotionやVercel、CursorはいずれもFireworksのサービスを利用している。これらの企業やそのエンドユーザーのデータに影響が及んだかどうかは現時点で不明で、各社とも公式にはコメントしていない。
1カ月で2度目の事案
時系列で見ると、Fireworksが1カ月のうちに問題を起こしたのは今回が2度目だ。
10月6日、Fireworksは社内の認証情報を悪用した何者かが、「限られた数」の顧客アカウントにある評価ジョブの環境変数を読み取っていたことを把握した。そこにはシークレットとして保存されていたサードパーティのAPIキーやトークンが含まれていた。同社は10月9日夜にセキュリティ告知を公表し、翌日には一部のユーザーAPIキーを失効させ、サービスアカウントのトークンをローテーションした。当時の告知にははっきりとこう書かれていた。
「we have not detected evidence of unauthorized access to customer models, datasets, training data」
(顧客のモデル、データセット、学習データへの不正アクセスの証拠は確認されていない)
1カ月後、モデルの重みとデータセットが流出リストに現れた。2件の事案に関連があるかどうかは、現時点では特定できないとFireworksは述べている。10月の告知ページは10月10日の更新で止まっており、ステータスは「継続監視」のまま。記事執筆時点で、11月の事案についての記載は追加されていない。
巻き込まれたのは1社だけではない
10月の侵入が起きた際、被害を受けたのはFireworksだけではなかった。クラウドセキュリティ企業のWizは10月30日のレポートで、この一連の攻撃をAI開発者プラットフォームにとっての「ブラック・オクトーバー」と呼んだ。当初はFireworks、Railway、Warp、Lightning AIなど9社を挙げていたが、11月10日の更新ではセキュリティインシデントを公表した企業が16社に増え、NVIDIA傘下のBrevも含まれている。
Wizがまとめた共通点は、攻撃者が環境変数に入っているシークレット、とりわけAIサービスを呼び出せるキーを狙って探し回っている点だ。入手したキーはまず1回リクエストを送って使えるかを確かめ、その後プロキシプールを使って大規模に呼び出し、最後は転売ルートで現金化する。業界ではこうしたモデル利用枠の不正利用をLLMハイジャックと呼ぶ。Wizが挙げた事例の一つでは、流出したキーが約30時間で約80万回呼び出された。別の事例では約13時間で170万回呼び出され、2件を定価ベースで合算すると10万ドルを超える可能性がある。
報道によれば、Unit 42は今回のFireworksへの攻撃を、LLMハイジャックを手がけるサイバー犯罪グループによるものとみている。ただしこの見方は現在のところメディアによる伝聞にとどまり、Unit 42は公開レポートを出しておらず、具体的なグループ名も挙げていない。
資金調達のタイミングと重なった事故
Fireworksにとってタイミングは最悪だった。2022年創業の同社は、今年7月に年間換算売上が10億ドル、評価額が175億ドルに達していた。関係者によると、今週にも新たな資金調達ラウンドを始める予定で、目標評価額は少なくとも300億ドルだったという。
同じく関係者の話として、プラットフォームに年間数百万ドルを支出している一部の大口顧客が、他社への移行を検討しているという。資金調達が延期されるのか、実際に何社が移行するのかについてFireworksは回答しておらず、この部分は現時点で確認できない。
ユーザーにとっては、Fireworksが10月の告知で示した対応策が今回もそのまま当てはまる。Fireworks上で保存したキーを削除しても、キー自体が無効になるわけではない。該当するサービス事業者側でサードパーティの認証情報をローテーションし、そのアクセスログを確認する必要がある。
参考資料: 新浪財経、Fireworksセキュリティ告知、CocoLoop、Wizセキュリティ調査レポート。確認対象は2件の事案における流出範囲、影響を受けたプラットフォーム数、キー悪用による呼び出し回数。売上と評価額の数字は報道ベースの数値に従う。