日本政府正在考慮替 AI 相關企業加上安全確保義務,並新設罰則。共同社 11 月 11 日披露了這個方向,指方案已在討論 AI 法制的非公開工作小組中確認,政府計畫在年底前公布包含修法在內的制度調整全貌。日本先前的 AI 立法並沒有罰則,這次方向改了。
方案裡有什麼
根據共同社的報導,政府考慮的架構分為三層:
- 要求 AI 相關業者負起確保安全的義務;
- 出事之後,企業又拒絕與政府協商時,國家可在必要時下達具強制力的命令;
- 違反命令者,適用新設的罰則,罰則範圍縮小到高效能 AI 引發的事件。
政府提出的理由,是要因應網路攻擊濫用、AI 失控這類重大威脅,確保遇到拒不協商的惡意業者時手上有辦法。報導提到的背景有兩點:美國有報告指先進 AI 在開發過程中出現計畫外的未授權存取;近來多起網路攻擊被懷疑與濫用 AI 有關。
適用對象還沒定。AI 業者從做研究、開發基礎模型,到面向使用者提供服務,鏈條切得很細,政府表示管到哪一層還要再梳理。報導還寫到,如果把美國大型 IT 企業也納入,能否真正保護日本國內使用者會被拿出來檢視。罰則的具體形式與金額,報導並未提及。
從「只公布名字」到「附帶罰則」
日本 AI 立法這兩年的路線,可以依幾個節點串起來看。
2025 年初,時事通信社報導當時的 AI 法案草案時寫的是:不設罰則,也不設改善命令,對惡意業者只做到公布名稱。
2025 年通過的 AI 推進法沿用了這個思路。法律以促進研發與應用為主,政府可以調查、提出指導,必要時公開業者名稱,但沒有罰則。
這次的變化,是在同一部法律的架構上補一個具強制力的部分,但只針對高效能 AI,並不打算對所有 AI 服務一體適用。範圍為什麼收得這麼窄,政府沒有正式解釋;從報導列出的背景來看,被點名的是網路攻擊與失控這類後果嚴重的情境,一般的生成內容問題不在這次討論的核心裡。
放到周邊來對照,歐盟《AI 法案》對違規企業的罰款最高可達全球營業額的 7%;南韓的 AI 基本法今年 1 月起施行,罰鍰上限是 3000 萬韓元。日本如果照現在的方向走,會落在兩者之間:比歐盟窄得多,只盯高效能模型,但比原先「只公布名字」多了一層命令加處罰。
年底要看的幾件事
年底制度全貌公布時,有幾個問題會有答案:高效能 AI 怎麼界定,是依運算量、參數規模,還是依能力測試結果;義務落在模型開發方、服務提供方,還是兩邊都要承擔;外國企業怎麼納入,罰則能不能執行到在日本沒有實體的公司;修法草案什麼時候提交國會。
目前這些問題政府都還沒有公開表態,共同社的報導也沒寫法案的提交時間。日本的 AI 企業,以及在日本提供服務的海外模型廠商,眼下能做的是等年底的方案,再看自己會落在哪一層。
參考來源:共同社關於 AI 法制工作小組的報導、時事通信社、CocoLoop、每日新聞;義務與罰則架構以共同社報導口徑為準,歐盟與南韓罰款上限以兩地法律條文為準。