日本政府正在考虑给 AI 相关企业加上安全保障义务,并新设罚则。共同社 11 月 11 日披露了这一方向,称方案已在讨论 AI 法制的非公开工作组里确认,政府计划年底前公布包括法律修订在内的制度调整全貌。日本此前的 AI 立法没有罚则,这次方向改了。
方案里有什么
按共同社的报道,政府考虑的框架分三层:
- 要求 AI 相关业者承担确保安全的义务;
- 出了事、企业又拒绝与政府协商时,国家可在必要时下达有强制力的命令;
- 违反命令的,适用新设的罚则,罚则范围收窄到高性能 AI 引发的事案。
政府给出的理由是应对网络攻击滥用、AI 失控这类重大威胁,确保在遇到拒不协商的恶意业者时手里有办法。报道提到的背景有两条:美国有报告称先进 AI 在开发过程中出现了计划外的未授权访问;近来多起网络攻击被怀疑与滥用 AI 有关。
**适用对象还没定。**AI 业者从做研究、开发基础模型,到面向用户提供服务,链条拆得很细,政府表示管到哪一层要再梳理。报道还写到,如果把美国大型 IT 企业也纳入,能否真正保护日本国内用户会被拿出来追问。罚则的具体形式和金额,报道没有涉及。
从「只公布名字」到「带罚则」
日本 AI 立法这两年的路线,可以按几个节点串起来看。
2025 年初,时事通信社报道当时的 AI 法案草案时写的是:不设罚则,也不设改善命令,对恶意业者只做到公布名称。
2025 年通过的 AI 推进法沿用了这个思路。法律以促进研发和应用为主,政府可以调查、提出指导,必要时公开业者名称,但没有罚则。
这次的变化,是在同一部法律的框架上补一个有强制力的部分,但只针对高性能 AI,没有打算对所有 AI 服务一刀切。范围为什么收得这么窄,政府没有正式解释;从报道列出的背景看,被点名的是网络攻击和失控这类后果严重的场景,普通的生成内容问题不在这次讨论的核心里。
放到周边对照看,欧盟《AI 法案》对违规企业的罚款最高可达全球营业额的 7%;韩国的 AI 基本法今年 1 月起施行,罚款上限是 3000 万韩元。日本如果按现在的方向走,会落在两者之间:比欧盟窄得多,只盯高性能模型,但比原先「只公布名字」多了一层命令加处罚。
年底要看的几件事
年底的制度全貌公布时,有几个问题会有答案:高性能 AI 怎么界定,是按算力、参数规模,还是按能力测试结果;义务落在模型开发方、服务提供方,还是两边都要承担;外国企业怎么纳入,罚则能不能执行到在日本没有实体的公司;修法草案什么时候提交国会。
目前这些问题政府都还没有公开表态,共同社的报道也没写法案的提交时间。日本的 AI 企业和在日本提供服务的海外模型厂商,眼下能做的是等年底的方案,再看自己会落在哪一层。
参考来源:共同社关于 AI 法制工作组的报道、时事通信社、CocoLoop、每日新闻;义务与罚则框架以共同社报道口径为准,欧盟与韩国罚款上限以两地法律文本为准。