Chinas Cyberspace Administration (CAC) hat die Ergebnisse der zweiten Phase ihrer Sonderkampagne „Qinglang – Ordnung im KI-Anwendungschaos“ veröffentlicht. In dieser Phase wurden insgesamt mehr als 5,61 Millionen rechtswidrige Informationen bereinigt, mehr als 49.000 Konten geahndet und mehr als 2.400 regelwidrige Websites und Apps stillgelegt; die Plattformen veröffentlichten zusammen 46 Ausgaben von Sanktionsmitteilungen. Internetaufsichtsbehörden in Peking, Shanghai, Zhejiang, Guangdong und weiteren Regionen waren an der konkreten Durchsetzung beteiligt.
Der Fokus der zweiten Phase unterscheidet sich grundlegend von dem der ersten: Es geht um mit KI erstellte und verbreitete Falschinformationen, gewalttätige oder vulgäre Inhalte, Identitätsfälschung und Nachahmung realer Personen, die Verletzung der Rechte Minderjähriger, organisierte „Wasserarmee“-Aktivitäten sowie regelwidrige Ausgaben der KI-Produkte selbst.
Von der Produktschließung zur Kontenbereinigung
Die Sonderkampagne wurde Ende April dieses Jahres gestartet, läuft über vier Monate, gliedert sich in zwei Phasen und konzentriert sich auf 14 zentrale Problemfelder. Legt man die Ergebnisse beider Phasen nebeneinander, wird die Schwerpunktverlagerung sofort sichtbar.
In der ersten Phase wurden mehr als 14.000 regelwidrige KI-Produkte geahndet, mehr als 1.300 regelwidrige KI-Produkte entfernt und 9 regelwidrige offene Datensätze gelöscht – der Fokus lag auf der technischen Quelle: Ist das große Sprachmodell vorschriftsgemäß registriert, reicht die Sicherheitsprüfungs- und Filterfähigkeit der Plattform aus, wurden die Trainingsdaten vergiftet, wurde die Kennzeichnungspflicht für KI-generierte Inhalte umgesetzt. Ziel der Maßnahmen war das Produkt selbst.
In der zweiten Phase sank die Zahl der geahndeten Produkte auf 2.400, während die Zahl der geahndeten Konten von 26.000 auf 49.000 sprang – nahezu eine Verdopplung. Die Menge der bereinigten Informationen blieb über beide Phasen hinweg in etwa konstant (über 6 Millionen gegenüber über 5,61 Millionen), doch bei annähernd gleicher Inhaltsmenge steckten fast doppelt so viele Konten dahinter. Grob gerechnet entfielen in Phase eins im Schnitt rund 230 regelwidrige Informationen auf ein geahndetes Konto, in Phase zwei sank dieser Wert auf etwa 115. Die Ausstoßmenge pro Konto sinkt, während die Zahl der beteiligten Konten steigt. Das ist ein typisches Muster für die Zeit „nach der Verbreitung des Werkzeugs“: Die Einstiegshürde für KI-generierte Inhalte sinkt, damit sinken auch die Kosten für massenhaftes Anlegen von Konten zur Inhaltsproduktion – und die Regulierung muss zwangsläufig granularer werden.
Was die Plattformen abgeliefert haben
Auf Seiten der Inhalteplattformen konzentrierten sich Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban und Taobao auf die Erkennungsfähigkeit: Optimierung multimodaler Erkennungsmodelle, dynamischer Ausbau von Gesichts-, Stimmen- und Verstoßmuster-Datenbanken sowie die Einführung eines Echtzeit-Systems zur Gesichtserkennungskontrolle. Dass Gesicht und Stimme gesondert herausgegriffen wurden, verweist auf das hartnäckigste Problem dieser Phase – Identitätsfälschung, umgangssprachlich Deepfake-Gesichtstausch und Stimmimitation.
Auf Seiten der KI-Produkte wurden Doubao, Yuanbao, Qwen und Ernie Bot namentlich aufgefordert, die inhaltliche Prüfung der Rohdaten strikt zu kontrollieren, die Ausgabe regelwidriger Inhalte streng zu begrenzen und die Kennzeichnungspflicht für KI-generierte Inhalte konsequent umzusetzen. Die Aufsicht bezieht damit sowohl die Erzeugungs- als auch die Verteilungsseite in die Bewertung ein: dass das Modell keine Verstöße erzeugt, ist die erste Barriere, dass die Plattform sie erkennt, die zweite – und für beide Barrieren muss es nachvollziehbare Aufzeichnungen geben.
Auch der ganz vordere Teil der Verteilungskette blieb nicht verschont. Mehrere große Smartphone-Hersteller mit eigenen App Stores wurden angewiesen, strenge Zulassungsregeln für Entwickler und Kriterien für die Aufnahme von Apps festzulegen sowie bereits gelistete Apps stichprobenartig erneut zu prüfen, um regelwidrige Apps schon beim Markteintritt abzufangen. Entwicklerregistrierung, App-Listung, Inhaltserzeugung, Inhalteverteilung und Kontobetrieb – für alle fünf Stufen gibt es in dieser Runde entsprechende Maßnahmenkriterien.
Wo der Schwerpunkt der Compliance liegt
Für inländische Teams, die KI-Anwendungen entwickeln, läuft der Unterschied zwischen den beiden Phasen konkret auf eine Verschiebung der Compliance-Kostenstellen hinaus.
Phase eins prüfte die Marktzugangshürde: Modellregistrierung, Datenherkunft, Inhaltskennzeichnung – allesamt einmalige Investitionen, die nach Erledigung eine Zeit lang Bestand haben. Phase zwei prüft den laufenden Betrieb: Wer nutzt das Produkt nach dem Launch, was wird generiert, wird es für massenhafte Kontoerstellung missbraucht – all das wird der Plattform zugerechnet. 46 Sanktionsmitteilungen und 49.000 geahndete Konten zeigen: Diese Hürde lässt sich nicht mit einem einmaligen Nachweisdokument nehmen, sondern nur mit einem dauerhaft laufenden Prüfsystem und einer durchgängigen Bearbeitungskette.
Besonders im Blick zu behalten ist die Kennzeichnungspflicht für Inhalte. In Phase eins war sie ein Compliance-Punkt nach dem Muster „gemacht oder nicht gemacht“, in Phase zwei wird sie zum Ausgangspunkt der Haftungskette: Bei einer gemeldeten Falschinformation lässt sich mit vollständiger Kennzeichnung bis zur Erzeugungsquelle zurückverfolgen; fehlt die Kennzeichnung, muss die Plattform für die gesamte Kette selbst Rechenschaft ablegen. Reale Investitionen werden sich künftig stärker auf Prüfsysteme und Rückverfolgungsfähigkeit verlagern – nicht mehr nur auf die Registrierungsunterlagen selbst.
Quellen: Mitteilung der Cyberspace Administration of China, Xinhua, CocoLoop, China News Service; die Zahlen zu bereinigten Informationen, geahndeten Konten und entfernten regelwidrigen Produkten beider Phasen wurden jeweils mit den offiziellen Mitteilungen abgeglichen, der Konten-Durchschnittswert ist eine grobe Schätzung auf Basis der veröffentlichten Zahlen.