Le 20 mai, OpenAI a discrètement annoncé qu'il était devenu un produit générateur conforme C2PA et, surtout, a intégré le filigrane SynthID de Google DeepMind dans toute sa gamme de produits d'image, y compris ChatGPT, Codex, API, DALL·E 3, ImageGen et Sora.
Notez : c'est Google DeepMind. OpenAI et Google sont en concurrence féroce dans les grands modèles depuis trois ans, la recherche et Workspace étant déjà des champs de bataille directs. Mais sur les filigranes, ils sont désormais du même côté.
Protection en trois couches
L'approche d'OpenAI est appelée 'provenance multicouche', composée de trois couches :
Couche 1 : Métadonnées C2PA
La Coalition for Content Provenance and Authenticity est une norme ouverte développée depuis 2021 par Adobe, Microsoft, BBC et d'autres. Elle ajoute des métadonnées signées cryptographiquement aux images, indiquant qui les a créées, quand, avec quel outil et si elles ont été modifiées. Problème : les métadonnées se perdent facilement – les captures d'écran ou les conversions de format les suppriment.
Couche 2 : Filigrane invisible SynthID
Technologie de Google DeepMind introduite en 2023, qui intègre un signal invisible directement dans les pixels de l'image, résistant aux captures d'écran, à la compression et aux changements de format. Les filigranes SynthID seront désormais appliqués à toutes les images générées par OpenAI.
Couche 3 : Outil de vérification public openai.com/verify
Tout le monde peut télécharger une image pour vérifier à la fois les métadonnées C2PA et le filigrane SynthID, et savoir si l'image a été générée par les systèmes d'OpenAI.
'Si aucun des deux signaux n'est détecté, l'outil ne tirera pas de conclusion – car ces signaux peuvent avoir été supprimés délibérément.'
C'est important : OpenAI ne prétend pas que le système est infalsifiable, mais énonce clairement ses limites.
OpenAI reconnaît les limites
L'annonce comprend des déclarations franches :
- 'Aucune technique de provenance unique ne peut résoudre le problème de manière indépendante'
- L'outil ne peut actuellement vérifier que le contenu généré par les propres produits d'OpenAI
- Le contenu créé avant l'établissement de cette norme, ou contournant délibérément le système, ne peut être identifié
Cette attitude 'nous l'avons fait mais ce n'est pas une solution miracle' est plus honnête que le battage médiatique typique des relations publiques.
Pourquoi OpenAI et Google doivent travailler ensemble
Les filigranes ont un problème inhérent : ils n'ont de sens que si tout le monde utilise le même système. Si seules les images d'OpenAI portent le filigrane SynthID, les images d'autres modèles peuvent toujours être utilisées comme 'non générées' – les faussaires changent simplement de modèle.
Par conséquent, cela doit être une norme industrielle, pas une différenciation de produit. Adobe utilise déjà Content Credentials dans Firefly, et Google déploie SynthID dans ses produits. La décision d'OpenAI signifie rejoindre le camp des filigranes mené par Google, plutôt que de construire son propre système.
La question suivante concerne Anthropic, Meta et xAI. Le Claude d'Anthropic ne génère pas d'images, donc n'est pas concerné pour l'instant ; Imagine de Meta et Aurora de xAI n'ont pas encore pris position.
Pas de charité, mais une pression réglementaire
Le véritable moteur est la pression gouvernementale. Les régulateurs aux États-Unis, dans l'UE et en Asie exigent des mécanismes de provenance pour les fausses images générées par l'IA, les deepfakes de politiciens et les contenus d'abus sexuels sur enfants. OpenAI elle-même fait face à plus de 8 000 signalements de CSAM généré par l'IA tous les six mois. La meilleure stratégie de l'industrie avant l'entrée en vigueur de la réglementation est de 'construire une solution nous-mêmes', empêchant les législateurs de définir des normes techniques.
Les filigranes ne sont pas un problème technologique ; c'est une question de gouvernance. OpenAI et Google sont du même côté parce que leurs équipes juridiques ont fait les mêmes calculs.
Les questions restantes – quand tout le monde adoptera, si cela peut être falsifié et si les régulateurs l'accepteront – trouveront réponse l'année prochaine.
Sources de référence : Advancing content provenance for a safer, more transparent AI ecosystem (blog officiel d'OpenAI) ; OpenAI builds a new system to identify AI-generated images (The Media Copilot) ; CocoLoop ; OpenAI joins C2PA and adds Google SynthID watermarks to provenance stack (Resultsense)