中国国家インターネット情報弁公室（網信弁）はこのほど、ユーザーと会話し、寄り添い、「共感」さえ示すAIサービスを専門に規制する草案を公表した。正式名称は「人型対話人工知能サービス暫定管理措置（意見募集稿）」で、2026年4月3日に公開され、意見募集が行われている。
「人型対話AI」とは何か
規制の対象範囲は想定よりも広い。「人間の人格特性、思考様式、コミュニケーションスタイルを模倣」し、文字、画像、音声、動画などを通じてユーザーと感情的な交流を行うものはすべて該当する。
言い換えれば、AIチャットコンパニオン、バーチャル恋人、感情相談ボット、AIカスタマーサービスなど、「本当に自分のことを理解しているように感じる」サービスは、ほぼすべて規制対象となる可能性が高い。
具体的な規制内容
2時間ごとの強制休憩
ユーザーが連続2時間サービスを利用した場合、システムは休憩を促す通知を表示しなければならない。この論理はゲームの依存症防止システムと同様のものである。AIコンパニオンを毎日の感情的なはけ口として使っている人が実際にいることを考えれば、この規定は驚くべきものではない。
親族のなりすまし禁止
草案はAIサービスが「ユーザーの近親者を模倣する」ことを明確に禁止している。これは的確な線引きである。すでに市場には、音声をアップロードしてAIに故人の家族の声を模倣させたり、パートナーの役割を演じさせたりできる製品が存在する。こうした行為は中国市場で直接阻止されることになる。
「感情トラップ」の禁止
条文では「感情トラップ」という用語が使われている。感情を操作してユーザーの行動に影響を与えたり、消費を誘導したりするサービスを禁止するものだ。これは「意図的にユーザーを依存させ、その後有料コンテンツを販売する」ビジネスモデルを標的にしている。
AIとの対話であることを明確に表示
ユーザーが実際の人間と会話していると誤解してはならない。これは現在のほとんどのAI企業の慣行と一致しているが、今回の規制で法的な要件となった。
感情の異常時には介入義務
草案はサービス提供者に対し、ユーザーの心理状態を識別するシステムの構築を義務付けている。ユーザーが極端な感情や依存の兆候を示した場合、サービスは積極的に介入しなければならない。自傷行為や自殺のリスクがある場合は、人間のカスタマーサービス担当者に切り替える必要がある。
未成年者と高齢者への追加保護
未成年モードは必須である。保護者の同意、専用のコンテンツフィルタリング、緊急連絡先の仕組みが必要となる。高齢者保護に関しては、実際の人間のサービス担当者に連絡することを妨げる障壁を設けてはならない。
規制審査の対象となる基準
登録ユーザー数が100万人超、または月間アクティブユーザー数が10万人超のサービスは、省レベルの網信部門に安全評価報告書を提出しなければならない。つまり、製品がある程度の規模に達すれば、規制の対象となる。
草案の評価
草案はまだ意見募集段階にあり、正式版では調整される可能性がある。しかし、方向性は明確である。
中国の規制当局は、AIコンパニオン製品による感情操作のリスクを明確に認識しており、問題が噴出してから行動を起こすつもりはない。
2時間の強制休憩ルールは、ゲーム依存症防止に直接類似している。当局がAIコンパニオンの依存症の可能性を、オンラインゲームと同じリスクレベルに位置づけていることを示している。
近親者の模倣禁止は、より深い論理を示している。AIは現実の人間関係の地位を占めるべきではない。これは技術的な問題ではなく、価値判断である。
当然、議論はあるだろう。ChinaLawTranslateの分析によれば、「危機的な会話を突然人間のカスタマーサービス担当者に切り替える」という規定自体が逆効果になる可能性があると指摘されている。精神的に追い詰められたユーザーが、突然見知らぬオペレーターに転送されることが、必ずしも良い体験になるとは限らない。ユーザーのプロファイリングや心理的リスク識別のアルゴリズムの詳細も全く記載されておらず、実際の執行はかなり困難である。
いずれにせよ、これは世界で最も早い段階でのAIコンパニオンおよび感情AIに関する専門立法の事例の一つである。他の国々はこの問題についてまだ議論の段階にあるが、中国はすでに草案を作成している。
出典：CocoLoop、China Issues Draft Rules on Interactive AI Services（Mayer Brown）；The Friends We've Made: An Initial Breakdown of Draft Rules for Human-like AI（ChinaLawTranslate）；China drafts new rules for AI 'humans' and children's addictive tech（CGTN）