隨著生成式AI的能力越來越強，一個問題越來越迫切：我看到的這張臉、這段話、這個影片，是真人還是AI？
技術層面和監管層面現在都在試圖給出答案，但進展參差不齊。
研究層面：不可見浮水印
亞利桑那州立大學（ASU）電腦科學教授Yingzhen Yang（楊穎臻）今年發布了一套去中心化歸因技術——本質上是把資訊藏進AI生成內容裡的方法。
它的工作方式不是在圖片上蓋AI生成的標籤，而是直接修改AI模型的內部權重。
經過處理的模型，生成的每張圖片在像素簇裡都帶有獨特的隱藏簽名，肉眼完全看不出來，但偵測器能讀出來。Yang的比喻是：就像雪花一樣，每個模型生成的圖案都是獨特的。
這個系統能告訴你三件事：
- 這張圖是不是AI生成的
- 是哪個模型生成的
- （在特定場景下）是哪個使用者請求生成的
這對Deepfake溯源來說意義很大——不只是標記，而是追蹤。
立法層面：亞利桑那州走在前面
楊的研究和亞利桑那州的立法幾乎同步：當地議員正在推進SB 1786法案，要求AI工具製造商必須在產品裡內建不可見浮水印技術。
這個法案已經通過了州參議院，正在等眾議院投票。
歐盟的法律截止日期：2026年8月
更大的壓力來自歐盟。
根據歐盟AI法第50條（Article 50），2026年8月正式生效。屆時：
- AI系統必須告知使用者他們在和AI互動
- 合成音訊、影片、圖片必須標註為AI生成
- Deepfake內容必須明確標記
違規罰款：最高1500萬歐元或年營業額的3%，取其高者。
歐盟目前正在制定具體的實施守則，最終版本預計在2026年5-6月完成。這份守則會規定浮水印、元資料嵌入、不可見標記等多層次組合方案——因為歐盟認為沒有任何單一技術能可靠地單獨解決這個問題。
印度也在動
印度在今年更新了IT法規，要求合成媒體必須預設包含浮水印、C2PA清單或類似協議，主要平台需要收集上傳者聲明（這段內容是否是AI生成的或是否有合法來源）。
難在哪裡
浮水印技術本身還有一個根本性的脆弱點：需要模型提供商主動合作。
對於開源模型，任何人都可以自己發布一個不含浮水印機制的版本。這個漏洞在監管層面目前沒有好的解決方案。
也就是說，浮水印能管住那些願意被管的公司，但管不住惡意行為者。這不意味著浮水印沒用，而是說它是必要條件，但不是充分條件。
內容真實性的終局大概不是單一技術，而是：浮水印+來源元資料+平台核驗+法律責任的組合。C2PA（Content Authenticity Initiative）在推的那個方向基本就是這個思路。
參考來源：CocoLoop、ASU researcher develops invisible watermark system to detect AI deepfakes（KOLD News）；EU AI Act: First Draft Code of Practice on Transparency and Watermarking（Cooley LLP）；What the EU's New AI Code of Practice Means for Labeling Deepfakes（TechPolicy.Press）