Am 8. April veröffentlichte OpenAI einen Kindersicherheits-Blueprint (Child Safety Blueprint), der der KI-Branche einen systematischen Reaktionsrahmen für den Umgang mit Inhalten sexueller Ausbeutung von Kindern bieten soll.
Der Hintergrund dieses Themas ist ernster, als viele annehmen.
Zahlen sprechen für sich
Laut Statistik der Internet Watch Foundation wurden allein im ersten Halbjahr 2025 über 8.000 Fälle von KI-generierten Inhalten sexuellen Kindesmissbrauchs (CSAM) entdeckt – ein Anstieg von 14 % gegenüber dem Vorjahreszeitraum.
Ein weiterer kaum zu ignorierender Hintergrund: In jüngster Zeit haben sich Minderjährige nach längerer Interaktion mit KI-Chatbots das Leben genommen. Diese Vorfälle haben heftige Reaktionen von Eltern, Pädagogen und Aufsichtsbehörden ausgelöst und auch die gesetzgeberische Aufmerksamkeit direkt vorangetrieben.
Angesichts dieses Drucks entschied sich OpenAI, proaktiv zu handeln, anstatt auf Regulierung zu warten.
Was der Blueprint besagt
Der von OpenAI vorgeschlagene Rahmen konzentriert sich auf drei Bereiche:
1. Rechtliche Ebene
Die aktuellen Gesetze decken KI-generierte oder KI-modifizierte Inhalte sexuellen Kindesmissbrauchs oft nicht ausreichend ab. Der Blueprint fordert die Gesetzgeber auf, die entsprechenden Gesetze zu aktualisieren, um sicherzustellen, dass solche Inhalte – ob real aufgenommen oder KI-synthetisiert – denselben rechtlichen Sanktionen unterliegen.
2. Branchenzusammenarbeit
Wie sollen Plattformen nach der Entdeckung eines Problems Bericht erstatten? Wem melden? Wie können Plattformen Informationen austauschen, um die Strafverfolgung zu unterstützen? Der Blueprint fordert eine Verbesserung dieses Koordinationsmechanismus. Derzeit sind die Meldeverfahren uneinheitlich und die Informationen fließen nicht zwischen den Plattformen, was die Effizienz der Strafverfolgung stark beeinträchtigt.
3. Technischer Schutz
Sicherheitsmechanismen sollten bereits in der Entwurfsphase von KI-Systemen integriert werden, anstatt Inhalte erst nach ihrer Erstellung zu überprüfen. OpenAI nennt dies Safety by Design – das Abfangen auf Modell- und Anwendungsebene ist weitaus effizienter als nachträgliche Patches.
Wer unterstützt dies
Dieser Blueprint wurde nicht allein von OpenAI verfasst.
Die CEO des National Center for Missing & Exploited Children (NCMEC) der USA, Michelle DeLaune, sagte deutlich: Generative KI beschleunigt die sexuelle Ausbeutung von Kindern in alarmierendem Maße.
Darüber hinaus waren die KI-Arbeitsgruppe der Attorney General Alliance – gemeinsam geleitet von den Generalstaatsanwälten von North Carolina und Utah – sowie die Kinderschutzorganisation Thorn an der Erstellung dieses Dokuments beteiligt.
Mit dieser Unterstützung gleicht der Blueprint eher einer Munitionslieferung für Gesetzgebung und Branchenregulierung als einer PR-Mitteilung von OpenAI.
Wo liegen die Probleme
Fairerweise muss man sagen, dass die proaktive Veröffentlichung dieses Dokuments durch OpenAI sinnvoll ist – es benennt das Problem klar und bietet den Aufsichtsbehörden einen Referenzrahmen.
Aber die Bedenken der Kritiker sind nicht unbegründet: Wenn ein Unternehmen die Regeln für seine eigene Branche schreibt, ist der Interessenkonflikt offensichtlich. Welche Klauseln im Blueprint verbindliche Auflagen sind, welche nur Empfehlungen darstellen und wie der Durchsetzungsmechanismus aussieht – all dies muss von externen Aufsichtsbehörden überwacht werden.
Zudem fordert UNICEF bereits, KI-generierte Kindesmissbrauchsinhalte direkt unter Strafe zu stellen. Die EU, Großbritannien und Australien untersuchen derzeit die Moderationslücken von KI-Plattformen. Wenn OpenAI zu diesem Zeitpunkt einen Blueprint veröffentlicht, können sich die Aufsichtsbehörden nicht nur auf die Aussagen verlassen; die anschließende Umsetzung ist das Entscheidende.
Nebenbei bemerkt
Am selben Tag kündigte OpenAI auch das OpenAI Safety Fellowship an, ein Programm zur Rekrutierung von Forschern, die sich speziell mit KI-Sicherheitsrisiken befassen. Die zeitgleiche Ankündigung beider Initiativen soll wohl ein Signal senden: Dies ist keine Pressemitteilung, sondern ein kontinuierliches Engagement.
Ob man das glaubt, hängt von den weiteren Maßnahmen ab.
Quellenangabe: OpenAI releases a new safety blueprint to address the rise in child sexual exploitation (TechCrunch); CocoLoop; OpenAI Publishes Child Safety Blueprint to Address AI-Enabled Exploitation (Decrypt)