TikTok hat am 19. November zwei neue Werkzeuge für KI-Inhalte angekündigt. Das eine ist Likeness Detection (Erkennung von Abbildern), das jetzt schrittweise weltweit ausgerollt wird: Verifizierte Creator und Personen des öffentlichen Lebens erhalten eine Benachrichtigung, wenn jemand ihr Aussehen für KI-Inhalte nutzt, und können diese direkt melden. Das andere ist ein öffentliches Prüftool: Jeder kann ein Bild oder Video hochladen und nachsehen, ob es mit TikToks eigenen KI-Funktionen erzeugt oder bearbeitet wurde. Ein TikTok-Konto ist dafür nicht nötig.
Likeness Detection läuft in drei Schritten ab: Berechtigte Nutzer lassen ihren Ausweis über einen Drittanbieter verifizieren und nehmen dann teil; findet das System Inhalte und Konten, die möglicherweise ihr Abbild verwenden, werden sie benachrichtigt und prüfen die Treffer einzeln im Tool; halten sie etwas für problematisch, melden sie es direkt dem Sicherheitsteam. Laut TikTok werden Videos entfernt, die gegen die Community-Richtlinien zu schädlichen oder irreführenden Inhalten verstoßen oder Personen ohne Einwilligung darstellen, und das Unternehmen speichert die Ausweisdokumente der Nutzer nicht. Zur Zielgruppe zählen auch Konten von Regierungen, Politikern und Parteien.
Der Zeitpunkt zielt auf die Europawahlen 2027
TikTok stellte beide Werkzeuge bei einer Veranstaltung zu Sicherheit und Innovation in London vor. Francesca Scapolo, zuständig für Regierungsbeziehungen mit Schwerpunkt europäische Wahlen, sagte:
"Protecting the integrity of the elections is one of the most critical responsibilities that we have at TikTok."
(Die Integrität von Wahlen zu schützen, gehört zu den wichtigsten Aufgaben von TikTok.)
Wie die Straits Times berichtet, stehen 2027 in mehreren europäischen Ländern wie Italien, Frankreich und Griechenland Wahlen an, und die EU wendet seit August Transparenzregeln für KI an, die eine Kennzeichnung KI-generierter Inhalte wie Deepfakes verlangen. TikTok verlangt von Creatorn schon seit Jahren, realistische KI-Bilder, -Audios und -Videos zu kennzeichnen.
Das Prüftool soll die Lücke bei der Kennzeichnung schließen. TikTok war 2024 die erste Videoplattform, die C2PA-Inhaltsnachweise einführte: Mit eigenen Werkzeugen erzeugte Inhalte tragen automatisch diesen „Herkunftsnachweis“, den andere Plattformen auslesen und erkennen können. Sobald ein Video jedoch heruntergeladen, weitergeleitet oder geschnitten wird, geht der Nachweis oft verloren. Das neue Tool liest deshalb nicht nur C2PA aus, sondern erkennt auch VeraDura, ein von TikTok selbst entwickeltes unsichtbares Wasserzeichen, das laut Unternehmen haltbarer und schwerer zu entfernen ist. Der Zugang zum Prüftool befindet sich im Transparenzzentrum von TikTok.
TikTok nannte außerdem mehrere Zahlen: Die Plattform hat bisher über 5 Milliarden KI-generierte Videos gekennzeichnet; mehr als 99 % der regelwidrigen Inhalte wurden entfernt, bevor sie jemand gemeldet hat; der im Juli gestartete KI-Kompetenzbereich in der App hat über 4 Millionen Menschen beim Erkennen von KI-Inhalten geholfen; und Werkzeuge wie „Nicht interessiert“ und Schlüsselwortfilter haben im ersten Halbjahr in der EU mehr als 79 Millionen Menschen genutzt.
Im Vergleich zu YouTube einen halben Schritt zu spät
Bei der Abbilderkennung war YouTube früher dran. Die Plattform hat ein vergleichbares Werkzeug in diesem Jahr für Prominente und Agenturen geöffnet, ohne dass diese einen YouTube-Kanal haben müssen, und rund um den Mai weltweit ausgeweitet. TikToks Version wurde erst im Juli mit einer kleinen Gruppe von Creatorn in den USA getestet, damals ohne Zeitplan für die Ausweitung; vier Monate später folgt nun der schrittweise weltweite Start.
Beide Anbieter gehen ähnlich vor: Zuerst ist eine Identitätsprüfung nötig, dann werden Gesichter abgeglichen, und die Plattform bearbeitet die Meldungen. Der Unterschied liegt im Umfang: YouTube öffnet die Tür auch für Prominente, die gar nicht auf der Plattform aktiv sind, während TikTok diesmal von „berechtigten Creatorn und Personen des öffentlichen Lebens“ spricht. Wie viele Follower oder welche Kontotypen als berechtigt gelten, erläutern die öffentlichen Angaben außerhalb des Hilfezentrums nicht.
Die Reichweite des Prüftools ist noch enger. Es erkennt nur Inhalte, die mit TikToks eigenen KI-Funktionen entstanden sind, und stützt sich dabei auf selbst eingebettete Nachweise und Wasserzeichen. Deepfake-Videos, die mit Modellen anderer Firmen erzeugt und dann auf TikTok hochgeladen werden, erkennt das Tool nicht; dafür bleiben Plattformmoderation und Nutzermeldungen zuständig.
Einige Fragen hat das Unternehmen bislang nicht beantwortet: Wie genau der Gesichtsabgleich ist und wie hoch die Rate an Fehlalarmen, in wie vielen Ländern der erste Rollout startet und wie lange es nach einer Meldung dauert, bis sie bearbeitet ist. Bis zu den Europawahlen ist es noch gut ein Jahr, und genau diese Zahlen dürften Aufsichtsbehörden und Wahlkampfteams am meisten interessieren.
Quellen: TikTok Newsroom (Ablauf der beiden Werkzeuge, Zielgruppe und Plattformstatistiken), The Straits Times, AFP, CocoLoop, Tubefilter (Reichweite der Abbilderkennung bei YouTube), Android Headlines; Angaben des TikTok-Hilfezentrums, dass geprüfte Ausweisdokumente nicht gespeichert werden.