Die chinesische Cyberspace Administration hat kürzlich einen Entwurf für spezielle Vorschriften für KI-Dienste veröffentlicht, die mit Nutzern chatten, sie begleiten und ihnen gegenüber "Empathie" zeigen. Der offizielle Titel lautet "Vorläufige Verwaltungsmaßnahmen für menschenähnliche interaktive KI-Dienste (Entwurf zur Stellungnahme)" und wurde am 3. April 2026 zur öffentlichen Konsultation veröffentlicht.
Was ist "menschenähnliche interaktive KI"?
Der Anwendungsbereich der Vorschriften ist weiter als allgemein angenommen – jeder Dienst, der "menschliche Persönlichkeitsmerkmale, Denkweisen und Kommunikationsstile simuliert" und über Text, Bilder, Sprache oder Video emotionale Interaktionen mit Nutzern eingeht, fällt darunter.
Mit anderen Worten: KI-Chat-Begleiter, virtuelle Liebespartner, emotionale Beratungs-Bots, KI-Kundendienst – solange Sie das Gefühl haben, "es scheint mich wirklich zu verstehen", fällt es höchstwahrscheinlich in den Zuständigkeitsbereich.
Was genau wird geregelt
Zwangspause, alle zwei Stunden
Wenn ein Nutzer zwei Stunden ununterbrochen nutzt, muss das System eine Erinnerung zur Pause anzeigen. Diese Logik folgt dem gleichen Muster wie das Anti-Sucht-System bei Spielen. Angesichts der Tatsache, dass manche Menschen KI-Begleiter tatsächlich als täglichen emotionalen Mülleimer nutzen, ist diese Regelung nicht überraschend.
Verbot, sich als Angehöriger auszugeben
Der Entwurf verbietet KI-Diensten ausdrücklich, "nahe Angehörige des Nutzers zu simulieren". Dies ist ein präziser Schnitt – es gibt bereits Produkte auf dem Markt, die es ermöglichen, Audio hochzuladen, damit die KI die Stimme verstorbener Familienmitglieder nachahmt oder die Rolle eines Partners spielt. Diese Praxis wird in China direkt unterbunden.
Verbot von "emotionalen Fallen"
Der Entwurf verwendet den Begriff "emotionale Falle" – es ist verboten, durch Manipulation von Emotionen das Nutzerverhalten zu beeinflussen oder zu Konsumausgaben zu verleiten. Dies zielt auf das Geschäftsmodell ab, "absichtlich Abhängigkeit zu schaffen und dann kostenpflichtige Inhalte zu verkaufen".
Klare Kennzeichnung, dass man mit KI spricht
Der Nutzer darf nicht glauben, er unterhalte sich mit einem echten Menschen. Diese Regelung entspricht der aktuellen Praxis der meisten KI-Unternehmen, ist nun aber eine gesetzliche Pflicht.
Eingreifen bei emotionalen Auffälligkeiten
Der Entwurf verlangt von den Dienstanbietern die Einrichtung eines Systems zur Erkennung des psychischen Zustands der Nutzer. Wenn ein Nutzer extreme Emotionen oder Anzeichen von Abhängigkeit zeigt, muss das System aktiv eingreifen. Bei Selbstverletzungs- oder Selbstmordrisiko muss auf einen menschlichen Kundendienstmitarbeiter umgeschaltet werden.
Zusätzlicher Schutz für Minderjährige und Senioren
Der Minderjährigen-Modus ist verpflichtend: elterliche Zustimmung, spezielle Inhaltsfilter und ein Notfallkontaktmechanismus sind erforderlich. Beim Seniorenschutz dürfen keine Barrieren errichtet werden, die sie daran hindern, echte menschliche Dienstleistungen zu erreichen.
Schwellenwerte für die aufsichtsrechtliche Prüfung
Dienste mit mehr als 1 Million registrierten Nutzern oder mehr als 100.000 monatlich aktiven Nutzern müssen einen Sicherheitsbewertungsbericht bei der zuständigen Provinz-Cyberspace-Behörde einreichen. Das bedeutet, sobald ein Produkt eine gewisse Größe erreicht, gerät es in den Fokus der Aufsicht.
Bewertung des Entwurfs
Der Entwurf befindet sich noch in der Konsultationsphase, die endgültige Version könnte noch Anpassungen erfahren. Die Richtung ist jedoch bereits klar:
Die chinesische Regulierungsbehörde hat ein klares Bewusstsein für die Risiken emotionaler Manipulation durch KI-Begleiter-Produkte und beabsichtigt nicht, zu warten, bis Probleme ausbrechen, um zu handeln.
Die Zwei-Stunden-Zwangspause wird direkt mit dem Anti-Sucht-System bei Spielen verglichen – was zeigt, dass die Behörden das Suchtpotenzial von KI-Begleitern auf die gleiche Risikostufe wie Online-Spiele einstufen.
Das Verbot der Simulation naher Angehöriger offenbart eine tiefere Logik: KI sollte nicht den Platz echter menschlicher Beziehungen einnehmen. Dies ist kein technisches Problem, sondern eine Wertentscheidung.
Es wird mit Sicherheit Kontroversen geben. Die Analyse von ChinaLawTranslate weist darauf hin, dass die Regelung, "Krisengespräche plötzlich an einen menschlichen Kundendienstmitarbeiter zu übergeben", kontraproduktiv sein könnte – ein Nutzer, der gerade zusammenbricht, wird plötzlich an einen fremden menschlichen Kundendienstmitarbeiter weitergeleitet, was nicht unbedingt eine gute Erfahrung ist. Die algorithmischen Details zur Nutzerprofilierung und psychologischen Risikoerkennung werden überhaupt nicht erwähnt, was die praktische Umsetzung erheblich erschwert.
Trotz allem ist dies einer der frühesten Fälle weltweit, in dem spezielle Gesetze für KI-Begleiter und emotionale KI erlassen werden. Andere Länder befinden sich noch in der Diskussionsphase, während China bereits einen Entwurf verfasst hat.
Quellenangabe: CocoLoop, China Issues Draft Rules on Interactive AI Services (Mayer Brown); The Friends We've Made: An Initial Breakdown of Draft Rules for Human-like AI (ChinaLawTranslate); China drafts new rules for AI 'humans' and children's addictive tech (CGTN)