5월 20일, OpenAI는 조용히 발표했다. 자사가 C2PA 준수 생성기 제품이 되었으며, 더 중요한 것은 구글 딥마인드의 SynthID 워터마크를 ChatGPT, Codex, API, DALL·E 3, ImageGen, Sora 등 모든 이미지 제품에 통합했다는 점이다.
주목할 점: 그것은 구글 딥마인드다. OpenAI와 구글은 대규모 모델을 두고 3년간 치열하게 경쟁해 왔으며, 검색과 Workspace는 이미 직접적인 전장이다. 그러나 워터마킹에서는 같은 편에 서게 되었다.
3중 방어 체계
OpenAI의 접근 방식은 '멀티레이어드 프로버넌스'로, 세 가지 계층으로 구성된다.
첫 번째 계층: C2PA 메타데이터
Coalition for Content Provenance and Authenticity는 Adobe, Microsoft, BBC 등이 2021년부터 개발해 온 개방형 표준이다. 이미지에 암호 서명된 메타데이터를 추가하여 누가, 언제, 어떤 도구로 생성했는지, 수정 여부를 알려준다. 문제는 메타데이터가 스크린샷이나 형식 변환으로 쉽게 손실된다는 점이다.
두 번째 계층: SynthID 보이지 않는 워터마크
구글 딥마인드가 2023년에 개발한 기술로, 이미지 픽셀에 직접 눈에 보이지 않는 신호를 삽입한다. 스크린샷, 압축, 형식 변경에도 영향을 받지 않는다. 이제 OpenAI가 생성하는 모든 이미지에 SynthID 워터마크가 포함된다.
세 번째 계층: openai.com/verify 공개 검증 도구
누구나 이미지를 업로드하여 C2PA 메타데이터와 SynthID 워터마크를 모두 확인하고, 해당 이미지가 OpenAI 시스템에서 생성되었는지 여부를 알 수 있다.
'두 신호 모두 감지되지 않으면 도구는 결론을 내리지 않습니다. 이러한 신호가 의도적으로 제거되었을 수 있기 때문입니다.'
이 점이 중요하다. OpenAI는 '아무도 위조할 수 없다'고 주장하지 않고 도구의 한계를 명확히 밝혔다.
OpenAI, 한계 인정
발표에는 솔직한 표현이 포함되어 있다.
- '단일 출처 기술로 문제를 독립적으로 해결할 수 있는 것은 없다'
- 도구는 현재 OpenAI 자사 제품이 생성한 콘텐츠만 검증 가능
- 이 표준이 확립되기 전에 생성되었거나 시스템을 의도적으로 우회한 콘텐츠는 식별 불가
이러한 '했지만 만능은 아니다'라는 태도는 PR 문구의 과장보다 정직하다.
왜 OpenAI와 구글이 함께 해야 하는가
워터마킹에는 근본적인 문제가 있다. 모두가 같은 시스템을 사용해야 의미가 있다. OpenAI 이미지에만 SynthID 워터마크가 있으면 다른 모델로 생성된 이미지는 '생성되지 않은' 것으로 사용될 수 있다. 위조자는 모델만 바꾸면 된다.
따라서 이는 업계 표준이 되어야 하며, 제품 차별화가 되어서는 안 된다. Adobe는 이미 Firefly에서 Content Credentials를 사용하고 있고, 구글은 자사 제품에 SynthID를 배포하고 있다. OpenAI의 움직임은 자체 시스템을 구축하는 대신 구글 주도의 워터마크 진영에 합류하는 것을 의미한다.
다음 주목 대상은 Anthropic, Meta, xAI다. Anthropic의 Claude는 이미지 생성 기능이 없어 당장 영향을 받지 않는다. Meta의 Imagine과 xAI의 Aurora는 아직 명확한 입장을 밝히지 않았다.
자선이 아닌 규제 압력
진정한 동기는 정부의 압력이다. 미국, EU, 아시아 규제 당국은 AI 생성 가짜 이미지, 정치인 딥페이크, 아동 성적 학대 자료에 대한 출처 메커니즘을 요구해 왔다. OpenAI 자체도 6개월마다 8,000건 이상의 AI 생성 CSAM 신고에 직면한다. 규제가 실제로 시행되기 전에 업계의 최선의 전략은 '우리 스스로 해결책을 만드는 것'이며, 입법자가 기술 표준을 정의하도록 내버려 두지 않는 것이다.
워터마킹의 본질은 기술이 아니라 거버넌스다. OpenAI와 구글이 같은 편에 선 것은 각자의 법무팀이 동일한 계산을 했기 때문이다.
남은 문제——모두가 언제 채택할지, 위조 가능한지, 규제 당국이 받아들일지——는 내년에 답이 나올 것이다.
참고 출처: Advancing content provenance for a safer, more transparent AI ecosystem (OpenAI 공식 블로그); OpenAI builds a new system to identify AI-generated images (The Media Copilot); CocoLoop; OpenAI joins C2PA and adds Google SynthID watermarks to provenance stack (Resultsense)