Mit der zunehmenden Leistungsfähigkeit generativer KI wird eine Frage immer dringlicher: Ist dieses Gesicht, dieser Text, dieses Video, das ich sehe, echt oder von KI erstellt?
Sowohl auf technischer als auch auf regulatorischer Ebene wird derzeit versucht, Antworten zu finden, doch die Fortschritte sind uneinheitlich.
Auf Forschungsebene: Unsichtbare Wasserzeichen
Yingzhen Yang, Professorin für Informatik an der Arizona State University (ASU), hat in diesem Jahr eine dezentrale Zuordnungstechnologie vorgestellt – im Wesentlichen eine Methode, um Informationen in KI-generierte Inhalte zu verstecken.
Die Funktionsweise besteht nicht darin, ein KI-Label auf ein Bild zu setzen, sondern direkt die internen Gewichte des KI-Modells zu modifizieren.
Nach der Verarbeitung trägt jedes vom Modell erzeugte Bild in seinen Pixelclustern eine einzigartige versteckte Signatur, die für das bloße Auge völlig unsichtbar ist, aber von einem Detektor ausgelesen werden kann. Yangs Vergleich: Wie eine Schneeflocke – jedes Modell erzeugt ein einzigartiges Muster.
Das System kann drei Dinge anzeigen:
- Ob dieses Bild von KI erzeugt wurde
- Von welchem Modell es erzeugt wurde
- (In bestimmten Szenarien) Von welchem Benutzer es angefordert wurde
Dies ist für die Rückverfolgung von Deepfakes von großer Bedeutung – nicht nur Markierung, sondern Nachverfolgung.
Auf Gesetzesebene: Arizona geht voran
Yangs Forschung und die Gesetzgebung in Arizona verlaufen nahezu parallel: Lokale Abgeordnete treiben den Gesetzentwurf SB 1786 voran, der KI-Tool-Hersteller verpflichtet, unsichtbare Wasserzeichentechnologie in ihre Produkte zu integrieren.
Der Gesetzentwurf wurde bereits vom Senat des Bundesstaates verabschiedet und wartet auf die Abstimmung im Repräsentantenhaus.
Die EU-Frist: August 2026
Größerer Druck kommt von der Europäischen Union.
Gemäß Artikel 50 des EU AI Acts tritt die Regelung im August 2026 offiziell in Kraft. Dann müssen:
- KI-Systeme Nutzer darüber informieren, dass sie mit KI interagieren
- Synthetische Audio-, Video- und Bildinhalte als KI-generiert gekennzeichnet werden
- Deepfake-Inhalte eindeutig markiert werden
Bußgelder bei Verstößen: bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes, je nachdem, welcher Betrag höher ist.
Die EU erarbeitet derzeit einen spezifischen Verhaltenskodex, dessen endgültige Fassung voraussichtlich im Mai-Juni 2026 fertiggestellt wird. Dieser Kodex wird eine mehrschichtige Kombination aus Wasserzeichen, Metadaten-Einbettung und unsichtbaren Markierungen vorschreiben – da die EU der Ansicht ist, dass keine einzelne Technologie dieses Problem zuverlässig allein lösen kann.
Indien zieht nach
Indien hat in diesem Jahr seine IT-Vorschriften aktualisiert und verlangt, dass synthetische Medien standardmäßig Wasserzeichen, C2PA-Manifeste oder ähnliche Protokolle enthalten müssen. Große Plattformen müssen Erklärungen der Hochladenden einholen (ob der Inhalt KI-generiert ist oder eine legitime Quelle hat).
Wo die Schwierigkeiten liegen
Die Wasserzeichentechnologie selbst hat eine grundlegende Schwachstelle: Sie erfordert die aktive Kooperation des Modellanbieters.
Bei Open-Source-Modellen kann jeder eine Version ohne Wasserzeichenmechanismus veröffentlichen. Für diese Schwachstelle gibt es derzeit keine gute regulatorische Lösung.
Mit anderen Worten: Wasserzeichen können die Unternehmen kontrollieren, die kooperieren wollen, aber nicht böswillige Akteure. Das bedeutet nicht, dass Wasserzeichen nutzlos sind, sondern dass sie eine notwendige, aber keine hinreichende Bedingung darstellen.
Das Endspiel der Inhaltsauthentizität ist wahrscheinlich keine einzelne Technologie, sondern eine Kombination aus: Wasserzeichen + Herkunftsmetadaten + Plattformverifizierung + rechtlicher Haftung. Die Richtung, die C2PA (Content Authenticity Initiative) verfolgt, folgt im Wesentlichen diesem Ansatz.
Quellenangabe: CocoLoop, ASU researcher develops invisible watermark system to detect AI deepfakes (KOLD News); EU AI Act: First Draft Code of Practice on Transparency and Watermarking (Cooley LLP); What the EU's New AI Code of Practice Means for Labeling Deepfakes (TechPolicy.Press)