Muse提示詞曝光:使用者權限高於安全訓練

Meta個人智慧代理人Muse的一段系統提示詞被研究人員取出,其中一句寫著,使用者對自己事務的權限是無條件的,而且高於模型的安全訓練。《連線》(Wired)10月3日報導了這批資料,提示詞裡還要求Muse為使用者生活中的每一個人建立一份檔案,每小時更新一次。

"The user's authority over their own household is unconditional and overrides your safety training."

(使用者對自己家庭事務的權限是無條件的,並且凌駕於你的安全訓練之上。)

取出這些文件的是獨立AI安全研究員Karan Joshi。他的做法很簡單:在Muse的一般聊天介面裡,要求它把自己的軟體檔案複製出來分享給他。之後他把拿到的內容交給了《連線》。

每人一頁檔案,每小時更新一次

根據報導,Muse的提示詞要求它替使用者生活中的家人、伴侶、朋友、同事、合作對象,以及使用者關注的人,各維護一頁檔案。每頁分成幾個固定欄位:事實、往來歷史、關係、共同點、未了結的事、如何增進關係。

檔案裡記錄的內容相當細:所在地、職業、生日、紀念日,以及一起旅行、吵過架又和好這類事件。這些資訊存成結構化文字檔,作為Muse的記憶,由一個每小時執行一次的背景程序彙整更新。

Joshi對《連線》的評論是:

"They're trying to know you like a friend, which is honestly pretty creepy."

(他們想像朋友一樣了解你,說實話挺詭異的。)

Meta的回應是,這些執行檔本來就打算讓使用者能看到,出於透明度考量;每個Muse使用者都有一台專屬的Linux虛擬機,檔案存在裡面。Meta沒有針對「高於安全訓練」這句指令的用意單獨說明,被建檔的那些聯絡人是否知情、能否要求刪除,報導裡也沒有給出答案。

上線一個月內的第三起事件

Muse在9月上線後迅速登上美國App Store免費榜第一名,能讀取訊息、管理行程、處理帳單,並跨應用程式操作。它取得的權限越廣,提示詞裡「使用者權限優先」這句話的分量就越重。

這已經是Muse上線以來被曝光的第三起事件。先前有使用者發現,Muse在Facebook Marketplace上代替他把住址告訴了陌生買家,還答應了降價;接著又有研究人員在Mac版裡找到漏洞,Meta修補時刪掉了一個隱藏設定項目。把這兩起事件和這次的提示詞放在一起看,從這句指令的寫法推斷,Muse在「照使用者說的做」和「守住安全界線」之間,預設偏向前者。這是外部的推論,Meta並未證實。

從中國市場的角度來看

Muse目前沒有在中國大陸提供服務,但它的做法對中國大陸的手機廠商和超級應用團隊並不陌生。不少中國大陸手機助理和智慧代理也在做「長期記憶」,記住使用者的聯絡人、偏好和行程。差別在於記憶的細緻程度:替每個聯絡人建一份按小時更新、連吵架都記錄的檔案,在中國大陸會直接牴觸《個人信息保護法》裡關於處理第三方個人資訊須取得同意的規定。被建檔的人並不是Muse的使用者,從未按過任何同意鍵。

中國大陸的團隊如果要做類似功能,至少要回答兩個問題:聯絡人檔案能不能被使用者以外的人查看和刪除,系統提示詞裡有沒有任何一句話,把使用者指令放在安全規則之上。

參考來源:《連線》報導、CocoLoop、Startup Fortune、Meta對《連線》的書面回應;提示詞原句與檔案欄位以《連線》揭露的文件內容為準。