4월 8일, OpenAI는 '아동 안전 청사진(Child Safety Blueprint)'을 발표하며 AI 업계가 아동 성착취 콘텐츠 문제를 처리하기 위한 체계적인 대응 프레임워크를 제시했다.
이러한 조치의 배경은 많은 사람이 인식하는 것보다 더 심각하다.
데이터가 말해주는 것
인터넷감시재단(Internet Watch Foundation)의 통계에 따르면, 2025년 상반기에만 8,000건 이상의 AI 생성 아동 성적 학대 콘텐츠(CSAM) 사례가 발견되었으며, 이는 전년 동기 대비 14% 증가한 수치다.
또 한 가지 간과하기 어려운 배경은 AI 챗봇과 장기간 상호작용한 후 미성년자가 자살한 사건들이 최근 발생하면서 학부모, 교육자, 규제 당국의 강한 반발을 불러일으켰고, 입법 차원의 관심을 직접적으로 촉발했다는 점이다.
이러한 압력에 직면한 OpenAI는 규제를 기다리기보다 능동적으로 대응하는 방식을 선택했다.
청사진의 내용
OpenAI가 제안한 프레임워크는 세 가지 방향에 초점을 맞추고 있다.
1. 법적 측면
현행법은 AI가 생성하거나 AI가 수정한 아동 성적 학대 콘텐츠를 충분히 포괄하지 못하는 경우가 많다. 청사진은 입법 기관이 관련 법률을 업데이트하여 실제 촬영 여부와 관계없이 AI 합성 콘텐츠도 동일한 법적 제재 대상이 되도록 할 것을 촉구한다.
2. 업계 협력
플랫폼이 문제를 발견한 후 어떻게 신고할 것인가? 누구에게 신고할 것인가? 각 플랫폼 간에 정보를 공유하여 법 집행을 지원하는 방법은 무엇인가? 청사진은 이러한 조정 메커니즘의 개선을 요구한다. 현재 신고 프로세스가 통일되지 않고 플랫폼 간 정보가 유통되지 않아 법 집행 효율성이 매우 낮은 상황이다.
3. 기술적 보호
콘텐츠가 생성된 후 검토하는 것이 아니라 AI 시스템 설계 단계부터 안전 메커니즘을 구축하는 것이다. OpenAI는 이를 'safety by design(설계에 의한 안전)'이라고 부르며, 모델 및 애플리케이션 계층에서 사전에 차단하는 것이 사후 패치보다 훨씬 효율적이라고 설명한다.
지지하는 측
이 청사진은 OpenAI 단독으로 작성된 것이 아니다.
미국 실종·착취 아동 국가 센터(NCMEC)의 CEO 미셸 드론(Michelle DeLaune)은 다음과 같이 직설적으로 말했다: 생성형 AI는 우려스러운 방식으로 아동 성착취 범죄를 가속화하고 있다.
또한 전미 검찰총장 연합(Attorney General Alliance)의 AI 워킹그룹(노스캐롤라이나와 유타 주 검찰총장이 공동 의장)과 아동 보호 단체 Thorn도 이 문서 작성에 참여했다.
이러한 지지를 바탕으로 볼 때, 이 청사진은 OpenAI의 홍보 자료라기보다는 입법 및 업계 감독을 위한 탄약에 가깝다.
문제점
공정하게 말해, OpenAI가 이 문서를 능동적으로 발표한 것은 의미가 있다. 적어도 문제를 명확히 설명하고 규제 당국에 참조 프레임워크를 제공했다.
그러나 비판자들의 우려에도 근거가 없는 것은 아니다: 기업이 자사 업계의 규제 규칙을 직접 작성하는 것은 명백한 이해 충돌이다. 청사진의 어떤 조항이 엄격한 구속력을 가지며, 어떤 조항이 단순한 권고 사항인지, 집행 메커니즘은 무엇인지, 이 모든 것은 외부 감독이 필요하다.
또한 유니세프(UNICEF)는 이미 AI 생성 아동 학대 콘텐츠를 직접 형사 범죄로 규정할 것을 촉구하고 있으며, EU, 영국, 호주는 AI 플랫폼의 콘텐츠 검토 허점을 조사하고 있다. OpenAI가 이 시점에 청사진을 발표했지만, 규제 당국이 성명만 보고 판단하지는 않을 것이며, 후속 실행이 진정한 시험대가 될 것이다.
참고 사항
같은 날, OpenAI는 AI 안전 위험을 전문적으로 연구할 연구원을 모집하는 OpenAI 안전 연구원 프로그램(OpenAI Safety Fellowship)도 발표했다. 이 두 가지 발표를 함께 보면, 이는 단순한 보도자료가 아니라 지속적인 투자라는 신호를 보내려는 의도로 해석된다.
믿을지 말지는 후속 행동을 지켜보면 알 수 있을 것이다.
출처: OpenAI releases a new safety blueprint to address the rise in child sexual exploitation (TechCrunch); CocoLoop; OpenAI Publishes Child Safety Blueprint to Address AI-Enabled Exploitation (Decrypt)