올해 2월 5일, OpenAI는 GPT-5.3-Codex를 출시하여 프로그래밍 능력을 크게 향상시켰습니다. 그러나 동시에 달갑지 않은 꼬리표도 따라붙었습니다. OpenAI 내부 안전 평가 프레임워크에서 부여한 최초의 '높음' 사이버보안 위험 등급입니다.
얼마나 위험한가?
OpenAI는 완곡하게 표현했습니다. "이 모델이 사이버 공격을 완전히 자동화할 수 있다는 확실한 증거는 없다"면서도 "예방 조치로" "지금까지 가장 포괄적인 사이버보안 보호 스택"을 배포했다고 밝혔습니다.
쉽게 말해, 이 모델의 프로그래밍 능력이 임계점에 도달하여 대규모로 자동 악용될 경우 사이버보안 분야에서 실질적인 피해를 초래할 수 있다는 의미입니다.
보안 조치
OpenAI는 여러 계층의 보호 조치를 구현했습니다:
- 안전 훈련: 모델 수준의 정렬
- 자동 모니터링: 의심스러운 요청 탐지
- 계층적 접근: 고위험 작업은 신뢰할 수 있는 사용자에게만 개방
- 다운그레이드 라우팅: 높은 사이버보안 위험으로 감지된 요청은 자동으로 이전 세대 GPT-5.2로 라우팅
출시 일정도 이례적으로 신중하게 진행되어 개발자 대상 전체 공개가 연기되었습니다.
후폭풍
캘리포니아주의 AI 안전 규제 기관은 이후 이번 출시가 주에서 새로 통과된 AI 안전법을 위반했을 수 있다고 주장했습니다. OpenAI는 이 주장을 부인했습니다.
3월에는 Codex GitHub 토큰 유출 취약점이 적발되었고, 이후 패치가 적용되었습니다.
OpenAI는 또한 2023년에 시작된 100만 달러 규모의 사이버보안 지원 프로그램을 확대하여 사이버 방어 연구를 지원하기 위해 1,000만 달러 상당의 API 크레딧을 제공했습니다.
이면에는 깊은 모순이 자리잡고 있습니다. 프로그래밍 능력이 강할수록 오용 위험도 높아집니다. 모델 능력의 향상과 보안 위험의 증가는 거의 선형적인 양의 상관관계에 있습니다. OpenAI는 '보호 후 출시'가 아닌 '출시 후 보호'라는 노선을 선택했습니다. 이 선택에 대해 업계 내 의견이 크게 갈리고 있습니다.
출처: CocoLoop, Fortune 보도