政府は、AI関連事業者に安全確保の義務を課し、新たに罰則を設ける方向で検討に入った。共同通信が11月11日に報じたもので、AI法制を議論する非公開の作業部会で方向性が確認されたという。政府は法改正を含む制度見直しの全体像を年末までに公表する計画だ。これまでの日本のAI法制には罰則がなく、今回は方針の転換となる。
案の中身
共同通信の報道によると、政府が検討している枠組みは3層構造になっている。
- AI関連事業者に、安全を確保する義務を負わせる。
- 事案が起き、企業が政府との協議を拒んだ場合は、必要に応じて国が強制力のある命令を出せるようにする。
- 命令に違反した場合には新設の罰則を適用する。罰則の対象は高性能AIが引き起こした事案に絞る。
政府が挙げる理由は、サイバー攻撃への悪用やAIの暴走といった重大な脅威に対応し、協議に応じない悪質な事業者への手立てを確保することだ。報道が触れている背景は二つある。米国では先端AIの開発過程で想定外の不正アクセスが起きたとする報告があったこと、そして最近の複数のサイバー攻撃にAIの悪用が疑われていることだ。
対象範囲はまだ決まっていない。AI事業者といっても、研究や基盤モデルの開発から利用者向けのサービス提供までバリューチェーンが細かく分かれており、政府はどの段階まで対象とするか改めて整理するとしている。報道は、米国の大手IT企業を対象に含める場合、国内の利用者を実際に守れるのかが問われることになるとも伝えている。罰則の具体的な形や金額については触れられていない。
「公表のみ」から「罰則つき」へ
日本のAI法制のこの2年の動きは、いくつかの節目でたどることができる。
2025年初め、時事通信が当時のAI法案の原案を報じた際は、罰則も改善命令も設けず、悪質な事業者への対応は名称の公表にとどまる内容だった。
2025年に成立したAI推進法も、この考え方を引き継いだ。法律は研究開発と活用の促進を主眼とし、政府は調査や指導を行い、必要な場合には事業者名を公表できるが、罰則はない。
今回の変更は、同じ法律の枠組みの中に強制力のある部分を加えるものだ。ただし対象は高性能AIに限られ、すべてのAIサービスに一律で適用するつもりはない。範囲をここまで絞る理由について、政府から正式な説明はない。報道が挙げる背景を見る限り、名指しされているのはサイバー攻撃や暴走といった結果の重大な場面で、通常の生成コンテンツをめぐる問題は今回の議論の中心にはない。
周辺の制度と比べると、EUのAI法は違反企業に対し世界売上高の最大7%の制裁金を科すことができ、韓国のAI基本法は今年1月に施行され、過料の上限は3000万ウォンだ。日本が現在の方向で進めば、両者の中間に位置することになる。EUよりはるかに範囲が狭く、高性能モデルだけに焦点を当てるが、従来の「名称公表のみ」に比べれば、命令と処罰という一段が加わる。
年末に注目すべき点
年末に制度の全体像が示される際には、いくつかの疑問に答えが出るはずだ。高性能AIをどう定義するのか。演算量なのか、パラメーター規模なのか、能力テストの結果なのか。義務を負うのはモデルの開発者か、サービス提供者か、それとも双方か。外国企業をどう取り込むのか、日本に拠点のない企業に罰則を執行できるのか。そして、法改正案はいつ国会に提出されるのか。
これらの点について政府はまだ公式な見解を示しておらず、共同通信の報道にも法案の提出時期は書かれていない。日本のAI企業や、日本でサービスを提供する海外のモデル事業者にいま可能なのは、年末の案を待ち、自社がどの層に当たるのかを見極めることだ。
参考資料:AI法制作業部会に関する共同通信の報道、時事通信、CocoLoop、毎日新聞。義務と罰則の枠組みは共同通信の報道に基づく。EUと韓国の制裁金・過料の上限は各法令の条文による。