亞馬遜在資安部落格披露,一批攻擊者利用開源滲透測試框架 Artex 驅動 AI 代理,花了大約一個月,專門從暴露在公開網路上的 AI 應用程式竊取 API 金鑰。代理取得金鑰後會先驗證能否使用,可用的就匯入共用金鑰池,再拿這些金鑰支付更多大型語言模型的呼叫費用,繼續尋找下一批金鑰。
亞馬遜的說法是,規模最大的一場 Artex 行動是大規模竊取模型存取憑證,運作方式為「self-sustaining」(自我維持):偷來的金鑰支付推論費用,推論又驅動下一輪搜刮。行動從 10 月 3 日開始,11 月 5 日被亞馬遜的誘餌感測器網路 MadPot 攔截並阻斷。亞馬遜已通知可能受影響的 AWS 客戶。
代理自己把帳本交了出來
這次之所以能看清全貌,靠的是一個有點諷刺的細節。MadPot 部署了一批偽裝成常見大型語言模型接入服務的誘餌系統,攻擊代理把請求送了過來,請求裡帶著代理的工作記憶,也就是它們對自身行動的紀錄。亞馬遜的報告大量引用了這些紀錄。
從紀錄來看,攻擊流程相當規整。代理先在公開網路上尋找暴露的 AI 應用程式,擷取 API 金鑰,驗證可用性,再放入金鑰池。操作者下達給代理的指令包括:依固定的國家順序逐一掃描,優先攻擊企業的正式環境、不碰個人專案,每把偷到的金鑰都要評分,分數取決於它能不能用、能呼叫到哪些資源。
指令裡還劃了紅線:排除中國大陸目標與政府網域,所有對外流量都必須經過代理。
「organizations should assume exposed secrets and misconfigurations will be found quickly and remediate accordingly」
(各機構應當預設,暴露在外的機密與錯誤設定會很快被找到,並據此儘速修補。)
另一場行動鎖定加密貨幣交易所,以即時深偽(deepfake)注入的方式繞過 KYC 身分驗證。報告並未提供這場行動的成功率。
被點名的工具,中國開發者相當熟悉
紀錄中列出的數百個目標分成兩類。一類是大型語言模型閘道與代理,例如 LiteLLM、One API、Veloera;另一類是 AI 應用程式建置平台,例如 FastGPT、Dify。
這份名單對中國的團隊並不陌生。One API 與 FastGPT 是中國開發者打造的開源專案,Dify 在中國企業中的部署範圍也很廣,不少團隊把它們裝在海外雲端主機上,為內部或客戶提供統一的模型入口。這類閘道的設定裡往往一次存放著好幾家模型廠商的金鑰,一台機器失守,損失的就是一整串帳單。
攻擊指令排除了中國大陸目標,部署在大陸機房的執行個體理論上躲過了這一輪;放在香港、新加坡或美國雲端上的執行個體,則在掃描範圍內。粗略看來,最該先檢查的有三件事:管理後台是否直接暴露在公開網路上、預設密碼與初始權杖是否已更改、閘道裡存放的上游金鑰是否設有消費上限與來源 IP 限制。
亞馬遜也說明,紀錄中被列為目標的組織並非都已失陷。報告沒有公開實際被盜的金鑰數量與涉及的客戶數,亞馬遜表示發布報告是為了讓各家自行排查。
歸因與 FBI 的警告
亞馬遜威脅情報團隊以「中等信心」認為,幕後是幾個彼此獨立、與中國有關聯的威脅組織。依據包括提示詞使用簡體中文、時區設為中國時間、目標選擇符合中國利益,以及所用工具常見於這類組織。這項歸因目前尚未獲得其他政府機關公開證實。
Artex 被用來攻擊,先前已有多家公司提出報告。微軟 10 月下旬表示,被其命名為 Storm-0940 的組織利用 Artex 自動化攻擊了全球數百個機構;Google 威脅情報小組隨後也說,觀察到攻擊者將代理框架武器化。
FBI 上週發出一份 FLASH 警報,指多個攻擊方在各行各業利用 Artex 發動攻擊,部分案例從鎖定目標到完成入侵不到三小時。警報提到,南韓金融業遭攻擊時,至少 6.8 萬人的個人資料遭竊;透過 ConnectWise 的入侵,攻擊者進入了至少 2250 家客戶的 Microsoft 365 環境。不過有媒體指出,這份警報彙整的是先前的 11 份報告,並未揭露新案例。
Artex 開發者在一連串攻擊曝光後,已將軟體改為閉源;FBI 認為先前的開源版本仍廣為流傳。
參考來源:亞馬遜資安部落格、Cybernews、CocoLoop、TechCrunch、FBI FLASH 警報;南韓受害人數與 ConnectWise 客戶數以 TechCrunch 對警報的轉述為準,行動起訖與歸因信心程度以亞馬遜的說法為準。