Meta의 가장 민감한 안전 경계가 AI 생성 이미지와 유료 광고에 동시에 뚫렸다.
WIRED에 따르면 Tech Transparency Project 연구진은 Meta 광고 라이브러리에서 위반 이미지와 영상 광고 50건 이상을 찾았다. 광고는 Facebook, Instagram, Messenger, Threads에 게재됐고 일부는 누디파이 또는 얼굴 합성 앱으로 연결됐다.
첫 관문이 작동하지 않았다
광고는 미국, 영국, 유럽 10여 개국에 노출됐고, 적어도 한 건은 유럽에서 2,563개 계정에 도달했다. 일부는 몇 달 동안 광고 라이브러리에 남아 있었다.
“These ads made no effort to mask the images or hide what they were promoting”
Meta는 해당 광고를 삭제했다고 밝혔다. 회사는 지난해 아동 성착취 콘텐츠 3,600만건을 제거했다고도 설명했다.
책임 사슬은 플랫폼 밖까지 이어진다
WIRED는 공개된 광고주 중 일부가 중국 기업과 관련돼 있다고 보도했다. 여러 광고는 MaskAI로 연결됐고, Apple은 문의 뒤 해당 앱을 App Store에서 내렸다. The News Minute는 Meta가 인도에서 6개월 동안 의심 계정 16만개를 제거했다고 밝힌 7월 대응도 기록했다.
검증점은 반복 차단
문제는 모델 출력만이 아니다. 악용자는 이미지, 계정, 랜딩 페이지, 재게시를 자동화한다. 유료 광고는 결제와 타기팅이 붙기 때문에 일반 게시물보다 더 높은 심사 기준이 필요하다.
출처: WIRED, Meta 공식 설명, The News Minute, arXiv:2607.05407, CocoLoop; 위반 광고 50건 이상, 유럽 2,563개 계정 도달, 추가 샘플 30건, 삭제 콘텐츠 3,600만 건, 인도 의심 계정 16만 개, AI-CSAM 안전 과제 15개를 확인.