Together AI、プロンプトのサンプル流出を公表

Together AIは11月21日、CEO兼共同創業者のVipul Ved Prakash氏名義でセキュリティに関する通知を公開した。それによると、今年6月と7月に同社のサーバーレス推論サービスへ送られたプロンプトの一部が、権限のない第三者にダウンロードされた。原因は1つのアクセス認証情報だ。同社がAIコーディングエージェントを使って公開コードリポジトリを開発していた際、エージェントがその認証情報をコードと一緒にコミットしてしまった。

Illustration: tweezers lift a red key from a row, echoing the search for keys in leaked prompt samples

1つの認証情報が漏れた経緯

通知によれば、Togetherはソフトウェアのテスト用に、ユーザーのリクエストの一部を日常的に抽出している。このサンプルはHugging Faceのプライベートリポジトリに保管されており、同社はこの用途を許可を得たものだとしている。サンプルの出どころはMiniMax M3、GLM-5.2、Kimi K2.6に送られたリクエストで、6月24日、7月4日、7月8日、7月14日に集中している。

問題が起きたのは別の工程だ。TogetherはGitHub上にxorlという公開リポジトリを持っており、開発中にAIコーディングエージェントがコミットしたコードに、そのプライベートリポジトリへアクセスできる認証情報が含まれていた。自動スキャンで発覚し、Togetherはこのコミットを取り消した。しかし認証情報が露出していた間に、すでに何者かがそれを入手し、保管されていたプロンプトのサンプルをダウンロードしていた。

相手はその後、2つのことを行った。サンプルの中から他のサービスの認証情報を探し出し、1つずつ使えるかどうかを試したのだ。狙われたのは、ユーザーがプロンプトに書き込んだキー、パスワード、トークンである。

5件のおとり認証情報

通知には見逃せない記述がある。試された認証情報のうち、5件はセキュリティ企業Dragosの実験で使われた「カナリア」認証情報だったという。

この実験は先ごろArs Technicaが報じたばかりだ。DragosのチーフリサーチオフィサーであるHD Moore氏は、追跡用のマーカーを埋め込んだ偽のキーや偽のリンクを約200万件プロンプトに書き込み、1件につき1社のプロバイダーにだけ送って、どれが触られるかを観察した。その結果、少なくとも3社の推論ホスティング事業者でリクエストが複製され、おとりのAWSキーが数万回使われたという。OpenRouterがMiniMaxのモデルについてユーザーに送った注意喚起メールも、この調査を引用している。

TogetherがMoore氏の言う3社のうちの1社かどうかは、通知には書かれておらず、公開情報から確認することはできない。符合する点は1つだけで、Moore氏のおとりがTogetherのダウンロードされたサンプルに含まれ、実際に試されたということだ。

We have no reason to believe the unauthorized party has leaked this data further.

(意訳:権限のない第三者がこのデータをさらに流出させたと考える理由はない。)

Togetherはさらに、このデータは削除されたと考えているとも述べた。誰がどのように削除を確認したのかは、通知に記載がない。

書かれていない数字

この通知には日付とモデル名はあるが、規模は書かれていない。影響を受けたプロンプトの件数、関係する顧客の数、認証情報が公開リポジトリにどれだけの間残っていたか、いつ取り消されたかは、いずれも明らかにされていない。サンプルに個人の機微情報が含まれているかどうかについては、Togetherは現在も調査中としており、通知が必要な顧客には個別に連絡するという。同社は外部のフォレンジック会社に調査を依頼し、法執行機関にも届け出た。

再発防止策は4項目が挙げられた。

  • 認証情報を権限範囲を絞ったものか短命のものに切り替え、キーを使わずに済む場面ではキー自体をなくす。
  • すべてのマージリクエストで認証情報のチェックを行う。
  • 新規アカウントでゼロデータ保持を既定で有効にする。
  • AIコーディングエージェントを使う開発フローを見直す。

既存アカウントは自動では切り替えられていない。通知は、機微なデータを扱う顧客が設定から自分で有効にすることを勧めるにとどまる。

OpenRouterのメールと並べて見る

数日のうちに、2つの推論プロバイダーが同じ調査をめぐってユーザーへの説明を迫られたが、対応はかなり異なる。

OpenRouterは一部のユーザーにメールを送っただけで、公開ページは設けなかった。責任の矛先は上流のMiniMaxとリクエストを中継したプロバイダーに向けられ、措置としては該当エンドポイントからゼロデータ保持のラベルを外した。Togetherが出したのはCEO名義の公開ブログで、問題が自社の開発プロセスにあったことを認め、新規アカウントの既定設定を変更した。

2件は性質も異なる。OpenRouterのケースでは、プロンプト内のリンクがリクエスト送信から数十時間後にアクセスされたが、アクセスした者の身元はいまも分かっていない。Togetherのケースには明確な侵入口がある。エージェントが公開リポジトリに書き込んだ認証情報と、キーを探し回る目的でダウンロードした者の存在だ。

ダウンロードされたサンプルに対応する3モデルは、いずれも中国企業の製品だ。中国のチームが海外向けプロダクトを作る際、Togetherのような海外のホスティング事業者を通じて中国製モデルを呼び出すことは多い。6〜7月にこの3モデルを使い、プロンプトにデータベース接続文字列やAPIトークンを貼り付けたことがある場合は、Togetherからの個別通知を待たず、先に認証情報を入れ替えるのが無難だろう。

もう1つ見落とせないのが、コーディングエージェント自体の問題だ。キーを公開リポジトリにコミットしてしまうミスは人間のエンジニアもよく犯すもので、今回もスキャンツールがそれを捕捉した。ただ、捕捉されるまでの露出期間がどれだけだったかはTogetherは公表しておらず、どのコーディングエージェントだったのかも通知では明かされていない。

参考資料:Together AI公式セキュリティ通知、CocoLoop、Ars Technica。Togetherの通知で影響を受けたモデル、サンプルが集中した4日間、4項目の再発防止策を確認し、Ars TechnicaでDragosの実験におけるおとりの規模と侵害されたホスティング事業者の数を確認した。