일본 정부가 AI 관련 기업에 안전 확보 의무를 부과하고 새로 벌칙을 두는 방안을 검토하고 있다. 교도통신이 11월 11일 이 방향을 보도했는데, AI 법제를 논의하는 비공개 작업반에서 방향이 확인됐다고 전했다. 정부는 법 개정을 포함한 제도 정비의 전체 윤곽을 연말까지 공개할 계획이다. 일본의 기존 AI 입법에는 벌칙이 없었기 때문에 이번 방침은 방향 전환이다.
방안의 내용
교도통신 보도에 따르면 정부가 검토 중인 틀은 세 단계로 이루어져 있다.
- AI 관련 사업자에게 안전을 확보할 의무를 지운다.
- 사고가 발생했는데 기업이 정부와의 협의를 거부하면 국가가 필요에 따라 강제력 있는 명령을 내릴 수 있다.
- 명령을 위반하면 신설되는 벌칙을 적용하며, 벌칙의 범위는 고성능 AI가 일으킨 사고로 좁힌다.
정부가 내세우는 이유는 사이버 공격 악용이나 AI 폭주 같은 중대한 위협에 대응하고, 협의를 거부하는 악의적 사업자를 상대할 수단을 확보하려는 것이다. 보도가 언급한 배경은 두 가지다. 미국에서 첨단 AI가 개발 과정에서 계획에 없던 무단 접근을 일으켰다는 보고가 있었고, 최근 여러 사이버 공격에 AI 악용이 의심되고 있다는 점이다.
적용 대상은 아직 정해지지 않았다. AI 사업자는 연구와 파운데이션 모델 개발에서 이용자 대상 서비스 제공까지 사슬이 잘게 나뉘어 있어, 정부는 어느 단계까지 규율할지 더 정리해야 한다는 입장이다. 보도는 미국 대형 IT 기업까지 대상에 넣을 경우 일본 내 이용자를 실제로 보호할 수 있느냐는 문제가 제기될 것이라고도 전했다. 벌칙의 구체적인 형태와 금액은 보도에 나와 있지 않다.
'이름 공개'에서 '벌칙 포함'으로
지난 2년간 일본 AI 입법의 흐름은 몇 개의 분기점으로 짚어 볼 수 있다.
2025년 초 지지통신이 당시 AI 법안 초안을 보도했을 때는 벌칙도 개선 명령도 두지 않고, 악의적 사업자에 대해서는 이름을 공개하는 데 그치는 내용이었다.
2025년에 통과된 AI 추진법도 이 기조를 이어받았다. 법은 연구개발과 활용 촉진에 방점을 두며, 정부는 조사와 지도를 할 수 있고 필요하면 사업자 이름을 공개할 수 있지만 벌칙은 없다.
이번 변화는 같은 법의 틀 안에 강제력이 있는 부분을 덧붙이는 것이다. 다만 대상은 고성능 AI에 한정되며, 모든 AI 서비스에 일괄 적용할 생각은 아니다. 범위를 이렇게 좁힌 이유를 정부가 공식적으로 설명한 적은 없다. 보도가 열거한 배경을 보면 지목된 것은 사이버 공격이나 통제 불능처럼 결과가 심각한 상황이며, 일반적인 생성 콘텐츠 문제는 이번 논의의 핵심이 아니다.
주변과 비교하면, EU의 AI법은 위반 기업에 전 세계 매출의 최대 7%에 달하는 과징금을 부과할 수 있고, 한국의 AI 기본법은 올해 1월부터 시행되었으며 과태료 상한은 3000만 원이다. 일본이 지금 방향대로 간다면 둘 사이에 놓이게 된다. EU보다는 훨씬 범위가 좁고 고성능 모델만 겨냥하지만, 기존의 '이름 공개'에 비하면 명령과 처벌이라는 한 단계가 더해진다.
연말에 지켜볼 점
연말에 제도의 전체 윤곽이 공개되면 몇 가지 질문에 답이 나올 것이다. 고성능 AI를 어떻게 정의할 것인가. 연산량인가, 파라미터 규모인가, 능력 시험 결과인가. 의무는 모델 개발자에게 있는가, 서비스 제공자에게 있는가, 아니면 양쪽 모두인가. 외국 기업은 어떻게 포함하며, 일본에 실체가 없는 회사에도 벌칙을 집행할 수 있는가. 법 개정안은 언제 국회에 제출되는가.
이 질문들에 대해 정부는 아직 공식 입장을 내놓지 않았고, 교도통신 보도에도 법안 제출 시기는 적혀 있지 않다. 일본의 AI 기업과 일본에서 서비스를 제공하는 해외 모델 업체가 지금 할 수 있는 일은 연말 방안을 기다린 뒤 자사가 어느 단계에 해당하는지 살펴보는 것이다.
참고 출처: AI 법제 작업반 관련 교도통신 보도, 지지통신, CocoLoop, 마이니치신문. 의무와 벌칙의 틀은 교도통신 보도를 기준으로 하며, EU와 한국의 과징금·과태료 상한은 각 법령 조문을 따른다.