Together AI 在 11 月 21 日發布了一份資安通報,署名為執行長暨共同創辦人 Vipul Ved Prakash。通報指出,今年 6 月和 7 月送往其 serverless 推論服務的一部分提示詞,遭未經授權者下載。源頭是一組存取憑證:公司用 AI 程式設計代理開發公開程式碼儲存庫時,代理把這組憑證連同程式碼一起提交了上去。

一組憑證是怎麼外流的
依通報的說法,Together 平時會抽取一部分使用者請求做軟體測試,這批樣本存放在 Hugging Face 的一個私有儲存庫裡,公司稱此用途經過授權。樣本來自送往 MiniMax M3、GLM-5.2 與 Kimi K2.6 的請求,主要集中在 6 月 24 日、7 月 4 日、7 月 8 日與 7 月 14 日。
出問題的環節在別處。Together 在 GitHub 上有個名為 xorl 的公開儲存庫,開發過程中,一個 AI 程式設計代理提交的程式碼夾帶了可存取該私有儲存庫的憑證。自動掃描發現後,Together 撤回了這次提交。但在憑證暴露的那段期間,已經有人取得它,並把存放的提示詞樣本下載走了。
對方接著做了兩件事:在樣本中翻找其他服務的憑證,再逐一測試能不能用。下載者要找的,是使用者寫進提示詞裡的金鑰、密碼與權杖。
五組誘餌憑證
通報裡有個值得注意的細節:被拿去測試的憑證當中,有 5 組是「金絲雀」憑證,屬於資安公司 Dragos 的一項實驗。
這項實驗不久前才被 Ars Technica 報導。Dragos 首席研究官 HD Moore 把將近 200 萬筆帶有追蹤標記的假金鑰、假連結寫進提示詞,每一筆只送給一家供應商,再觀察哪一筆被人動過。他得出的結果是,至少三家推論代管業者的請求被人複製,誘餌 AWS 金鑰被呼叫了數萬次。OpenRouter 針對 MiniMax 模型寄給使用者的那封提醒信,引用的也是這項研究。
Together 是否就是 Moore 所說三家中的一家,通報沒有寫,目前無法從公開資訊確認。唯一對得上的是:Moore 的誘餌出現在 Together 被下載的樣本裡,而且被人拿去試過。
We have no reason to believe the unauthorized party has leaked this data further.
意譯:我們沒有理由認為未授權方把這些資料進一步外洩。
Together 還說,相信這批資料已被刪除。至於刪除由誰查證、如何查證,通報沒有交代。
沒寫出來的數字
這份通報給了日期和模型名稱,缺的是規模。受影響的提示詞有多少筆、涉及多少客戶、憑證在公開儲存庫裡掛了多久、哪一天被撤回,都沒有寫。樣本裡有沒有個人敏感資訊,Together 表示仍在審查,需要通知的客戶會另行聯繫。公司已請外部鑑識機構介入,並向執法單位報案。
改善措施列了四項:
- 憑證改為限定範圍或短時效,能不用金鑰的地方就不用;
- 所有合併請求都做一次憑證檢查;
- 新帳戶預設啟用零資料保留;
- 更新使用 AI 程式設計代理的開發流程。
既有帳戶並未自動切換,通報只建議處理敏感資料的客戶自行到設定中開啟。
和 OpenRouter 那封信放在一起看
短短幾天內,兩家推論服務業者先後因為同一項研究向使用者交代,處理方式相差不小。
OpenRouter 只寄信給部分使用者,沒有公開頁面,責任指向上游的 MiniMax 與轉送請求的供應商,處置是摘掉相關端點的零資料保留標籤。Together 發的則是由執行長署名的公開部落格文章,承認問題出在自家的開發流程,並更改了新帳戶的預設設定。
兩件事的性質也有差別。OpenRouter 那一例中,提示詞裡的連結是在請求送出幾十小時後才被造訪,造訪者身分至今不明。Together 這一例則有明確的入口:一組被代理寫進公開儲存庫的憑證,加上一個專門翻找金鑰的下載者。
被下載樣本所對應的三款模型,都出自中國公司。中國團隊開發海外產品時,常透過 Together 這類海外代管業者呼叫中國模型。6、7 月用過這三款模型、又曾在提示詞裡貼上資料庫連線字串或 API 權杖的人,穩妥的做法是先把憑證換掉,不必等 Together 另行通知。
還有一層是程式設計代理本身。把金鑰提交進公開儲存庫,人類工程師也常犯,這次掃描工具也確實抓到了。但抓到之前的那段期間有多長,Together 沒有公布;具體是哪一款程式設計代理,通報同樣沒有點名。
參考來源:Together AI 官方資安通報、CocoLoop、Ars Technica;Together 通報查證受影響模型、樣本集中的四天與四項改善措施,Ars Technica 查證 Dragos 實驗的誘餌規模與遭入侵的代管業者數量。