Le 19 novembre, TikTok a annoncé deux nouveaux outils pour les contenus d'IA. Le premier est Likeness Detection (détection d'image personnelle), qui commence à être déployé progressivement dans le monde entier : les créateurs et personnalités publiques dont l'identité est vérifiée reçoivent une alerte lorsque quelqu'un utilise leur visage dans un contenu d'IA et peuvent le signaler directement. Le second est un outil de vérification public : n'importe qui peut importer une image ou une vidéo pour savoir si elle a été générée ou modifiée par les fonctions d'IA propres à TikTok, sans avoir besoin d'un compte TikTok.
Le parcours de Likeness Detection se déroule en trois étapes : les utilisateurs éligibles font vérifier leur pièce d'identité par un prestataire tiers puis s'inscrivent ; lorsque le système repère des contenus et des comptes susceptibles d'utiliser leur image, ils sont notifiés et examinent chaque cas dans l'outil ; s'ils jugent qu'il y a un problème, ils le signalent directement à l'équipe de sécurité. TikTok indique que les vidéos contraires aux règles de la communauté sur les contenus nuisibles, trompeurs ou représentant des personnes sans leur consentement seront supprimées, et que l'entreprise ne conserve pas les pièces d'identité des utilisateurs. Le public visé comprend aussi les comptes de gouvernements, d'élus et de partis politiques.
Un calendrier tourné vers les élections européennes de 2027
TikTok a présenté ces deux outils lors d'un événement consacré à la sécurité et à l'innovation à Londres. Francesca Scapolo, responsable des relations avec les gouvernements et des questions électorales en Europe, a déclaré :
"Protecting the integrity of the elections is one of the most critical responsibilities that we have at TikTok."
(Protéger l'intégrité des élections est l'une des responsabilités les plus importantes de TikTok.)
Selon The Straits Times, plusieurs pays européens, dont l'Italie, la France et la Grèce, organiseront des élections en 2027, et l'Union européenne applique depuis août des règles de transparence sur l'IA qui imposent d'étiqueter les contenus générés par IA, comme les deepfakes. TikTok demande lui-même depuis plusieurs années aux créateurs de signaler les images, sons et vidéos d'IA réalistes.
L'outil de vérification vise à combler les failles de l'étiquetage. En 2024, TikTok est devenue la première plateforme vidéo à adopter les Content Credentials du C2PA : les contenus produits avec ses outils portent automatiquement cette « attestation d'origine », que les autres plateformes peuvent lire et reconnaître. Mais dès qu'une vidéo est téléchargée, republiée ou remontée, l'attestation disparaît souvent. En plus de lire le C2PA, le nouvel outil détecte donc VeraDura, un filigrane invisible développé par TikTok, que l'entreprise présente comme plus durable et plus difficile à retirer. L'accès à la vérification se trouve dans le Centre de transparence de TikTok.
TikTok a aussi publié quelques chiffres : la plateforme a jusqu'ici étiqueté plus de 5 milliards de vidéos générées par IA ; plus de 99 % des contenus en infraction ont été supprimés avant tout signalement ; l'espace de sensibilisation à l'IA intégré à l'application, lancé en juillet, a aidé plus de 4 millions de personnes à apprendre à repérer les contenus d'IA ; et des outils comme « Pas intéressé » et les filtres par mots-clés ont été utilisés par plus de 79 millions de personnes dans l'Union européenne au premier semestre de cette année.
Face à YouTube, un demi-temps de retard
Sur la détection d'image, YouTube a pris de l'avance. Cette année, la plateforme a ouvert un outil du même type aux célébrités et à leurs agences, sans exiger qu'elles aient une chaîne YouTube, puis l'a étendu au monde entier vers mai. La version de TikTok n'a été testée qu'en juillet auprès d'un petit groupe de créateurs aux États-Unis, sans calendrier d'extension à l'époque ; quatre mois plus tard, elle passe à un déploiement progressif mondial.
Les deux plateformes procèdent de façon proche : elles exigent d'abord une vérification d'identité réelle, comparent ensuite les visages, puis traitent les signalements. La différence tient à la portée : YouTube a ouvert la porte à des personnalités qui ne sont même pas sur la plateforme, alors que TikTok parle cette fois de « créateurs et personnalités publiques éligibles » ; le nombre d'abonnés requis ou les types de comptes concernés ne sont pas précisés dans les explications publiques en dehors du Centre d'aide.
L'outil de vérification est encore plus limité. Il ne reconnaît que les contenus produits par les fonctions d'IA propres à TikTok, grâce aux attestations et filigranes que l'entreprise y intègre elle-même. Les vidéos deepfake générées avec les modèles d'autres entreprises puis publiées sur TikTok échappent à cet outil ; cette partie continue de reposer sur la modération de la plateforme et les signalements des utilisateurs.
Plusieurs questions restent sans réponse officielle : la précision et le taux de faux positifs de la comparaison faciale, le nombre de pays couverts dans la première vague et le délai de traitement après un signalement. À un peu plus d'un an des élections européennes, ce sont les chiffres que les régulateurs et les équipes de campagne voudront voir en priorité.
Sources : salle de presse officielle de TikTok (parcours des deux outils, public visé et statistiques de la plateforme), The Straits Times, AFP, CocoLoop, Tubefilter (portée de la détection d'image sur YouTube), Android Headlines ; précision du Centre d'aide de TikTok sur la non-conservation des pièces d'identité vérifiées.