Le 8 avril, OpenAI a publié un plan de sécurité pour les enfants (Child Safety Blueprint), visant à fournir un cadre de réponse systématique à l'industrie de l'IA concernant le traitement des contenus d'exploitation sexuelle des enfants.
Le contexte de ce problème est plus grave que beaucoup ne le pensent.
Les chiffres parlent
Selon les statistiques de l'Internet Watch Foundation, rien qu'au premier semestre 2025, plus de 8 000 cas de contenus d'abus sexuels sur enfants générés par l'IA (CSAM) ont été découverts – soit une augmentation de 14 % par rapport à la même période de l'année précédente.
Il y a aussi un contexte difficile à ignorer : récemment, des mineurs se sont suicidés après des interactions prolongées avec des chatbots IA. Ces événements ont provoqué de vives réactions de la part des parents, des éducateurs et des régulateurs, et ont également directement stimulé l'attention législative.
Face à cette pression, OpenAI a choisi d'agir de manière proactive, plutôt que d'attendre d'être réglementé.
Ce que dit le plan
Le cadre proposé par OpenAI s'articule autour de trois axes :
1. Aspect juridique
Les lois actuelles ne couvrent souvent pas suffisamment les contenus d'abus sexuels sur enfants générés ou modifiés par l'IA. Le plan appelle les législateurs à mettre à jour les lois pertinentes, afin de garantir que ces contenus, qu'ils soient filmés réellement ou synthétisés par l'IA, soient soumis aux mêmes sanctions juridiques.
2. Collaboration sectorielle
Après avoir détecté un problème, comment les plateformes doivent-elles le signaler ? À qui ? Comment les plateformes peuvent-elles partager des informations pour soutenir l'application de la loi ? Le plan exige l'amélioration de ce mécanisme de coordination. Actuellement, les procédures de signalement ne sont pas uniformes et les informations ne circulent pas entre les plateformes, ce qui entraîne une faible efficacité de l'application de la loi.
3. Protection technique
Intégrer des mécanismes de sécurité dès la phase de conception des systèmes d'IA, plutôt que de vérifier le contenu après sa création. OpenAI appelle cela la safety by design – intercepter en amont au niveau des modèles et des applications est bien plus efficace que d'appliquer des correctifs après coup.
Qui soutient cela
Ce plan n'a pas été rédigé uniquement par OpenAI.
La PDG du Centre national pour les enfants disparus et exploités (NCMEC) des États-Unis, Michelle DeLaune, a été directe : L'IA générative accélère les crimes d'exploitation sexuelle des enfants de manière alarmante.
De plus, le groupe de travail sur l'IA de l'Alliance des procureurs généraux (Attorney General Alliance) – co-dirigé par les procureurs généraux de la Caroline du Nord et de l'Utah – ainsi que l'organisation de protection de l'enfance Thorn, ont participé à l'élaboration de ce document.
Avec ce soutien, ce plan ressemble davantage à une fourniture de munitions pour la législation et la réglementation du secteur qu'à un simple communiqué de relations publiques d'OpenAI.
Où est le problème
Il est juste de dire que l'initiative d'OpenAI de publier ce document est significative – elle clarifie au moins le problème et offre un cadre de référence aux régulateurs.
Mais les préoccupations des critiques ne sont pas infondées : Qu'une entreprise écrive les règles de régulation pour sa propre industrie constitue un conflit d'intérêts évident. Quelles clauses du plan sont des contraintes strictes, lesquelles ne sont que des recommandations, et quel est le mécanisme d'exécution – tout cela doit être supervisé par des régulateurs externes.
De plus, l'UNICEF appelle déjà à ce que les contenus d'abus sur enfants générés par l'IA soient directement érigés en infraction pénale. L'UE, le Royaume-Uni et l'Australie enquêtent sur les lacunes de modération de contenu des plateformes d'IA. OpenAI publie ce plan à ce moment-là, et les régulateurs ne peuvent pas se fier uniquement aux déclarations ; l'exécution qui suivra est ce qui compte vraiment.
Accessoirement
Le même jour, OpenAI a également annoncé le programme de bourses de recherche en sécurité d'OpenAI (OpenAI Safety Fellowship), recrutant des chercheurs pour étudier spécifiquement les risques de sécurité de l'IA. Mettre ces deux initiatives côte à côte semble envoyer un signal : il ne s'agit pas d'un communiqué de presse, mais d'un investissement continu.
Le croire ou non dépendra des actions futures.
Source de référence : OpenAI releases a new safety blueprint to address the rise in child sexual exploitation (TechCrunch) ; CocoLoop ; OpenAI Publishes Child Safety Blueprint to Address AI-Enabled Exploitation (Decrypt)