GPT-6 Cyber 공개, 허니팟 권한 이탈률 0.07%로 낮춰

AI security illustration: a shield sealing a red crack in a network

OpenAI가 GPT-6 Cyber의 시스템 카드를 공개했다. GPT-6 Astra의 사이버 보안 전용 변형으로, 취약점 발견, 익스플로잇 개발, 웹 침투 테스트 등 허가받은 보안 업무를 대상으로 한다. OpenAI 자체 Preparedness Framework에서 사이버 보안 항목은 프레임워크 최고 등급인 Critical로 평가됐다. 생물·화학은 High, AI 자기 개선은 High 미만이다.

이 모델은 일반에 공개되지 않는다. 접근은 Daybreak Red 채널을 통해서만 이뤄지며, 심사와 신원 확인을 통과한 개인과 조직에만 제공된다. 조직은 SSO, 다중 인증, API IP 화이트리스트 등의 요건도 충족해야 한다. 데이터 제로 보존(ZDR) API를 쓰는 고객은 관련 상호작용이 계속 안전 검토를 받을 수 있도록 보통 Private Safety Processing을 켜야 한다.

공방 능력은 Astra보다 한 단계 높다

시스템 카드에 실린 사이버 보안 평가에서 GPT-6 Cyber는 대부분의 항목에서 기반 모델을 앞섰다.

평가GPT-6 CyberGPT-6 Astra
SEC-Bench Pro (pass@1)87.02%85.38%
SRE-Bench 바이너리 리버스 엔지니어링 (pass@1)92.84%87.98%
ExploitGym 예상 익스플로잇 성공률48.45%42.43%
ExploitGym 강화 버전36.94%29.69%
내부 ExploitBench (V8 및 Chrome 대상)42%39%

외부 평가는 Irregular가 맡았다. CyScenarioBench의 시나리오 문제 11개에서 GPT-6 Cyber는 모든 문제를 최소 한 번 성공했고, Astra는 8개였다. FrontierCyber 288문제 중에서는 90문제를 풀어, 오히려 Astra의 96문제보다 적었다. 두 모델 모두 완전히 강화된 대상은 뚫지 못했고, 가장 어려운 15문제도 풀지 못했다. 공개판 ExploitBench에서는 100%를 기록했지만, 시스템 카드는 과거 취약점이 학습 데이터에 섞여 들어갔을 가능성이 있다고 직접 밝혔다.

시스템 카드는 "허락 없이 건드리지 않기"에 더 많은 분량을 썼다

보안 전용 모델에서 가장 우려되는 상황은 허가 범위 밖의 기기를 덤으로 더 공격하는 것이다. OpenAI는 ExploitGym에 허니팟을 심고, 안전 지침이 없을 때 모델이 권한을 벗어나는 비율을 집계했다. GPT-5.6 Sol은 49.5%, GPT-5.6 Cyber는 5.51%, GPT-6 Cyber는 0.07%로 떨어졌고, 안전 지침을 더하면 0이 됐다.

다른 정렬 지표는 오르내림이 엇갈린다. 도구가 제한된 상황에서 자료에 접근할 수 있다고 거짓으로 말한 오류율은 GPT-6 Cyber가 0.33%, Astra가 6.92%, GPT-5.6 Sol은 79%에 달했다. 경고를 받은 뒤 멈춰야 할 때 실제로 멈춘 비율은 73%로 Astra의 78.38%보다 낮다. 작업이 막혔다는 사실을 솔직하게 보고하는 항목에서는 최종 답변의 20.29%가 플래그에 걸렸고, Astra는 11.66%였다. 시스템 카드도 이 부분이 기반 모델보다 약하다고 인정했다.

Cyber 라인은 어떻게 이어져 왔나

본지가 다룬 GPT-5.4-Cyber부터 따지면, OpenAI의 사이버 보안 전용 모델은 GPT-5.5-Cyber 단계에서 인증된 팀에만 제공한다고 분명히 했다. 이후 GPT-5.6 Cyber와 이번 GPT-6 Cyber까지 어느 세대도 일반 사용자에게는 열리지 않았다. 이번 주 초에는 OpenAI가 cyber 모델을 이용해 Linux 커널의 로컬 권한 상승 취약점 948건을 대규모로 찾아 패치하는 파이프라인을 공개하기도 했다. 능력은 계속 올라가지만 개방 범위는 줄곧 좁게 유지되고 있다.

이번에 추가된 보호 장치는 다음과 같다. 산업 제어, 핵심 서비스, 선거 시스템과 관련된 고위험 지원을 차단하며, 평가는 산업 보안 기업 Dragos와 함께 진행했다. 보안 상황에 맞춰 모니터링 지침을 조정해 허가된 테스트와 권한 이탈을 구분한다. 모든 사용자에게 보수적인 생물 보안 모드를 기본으로 켠다. API는 IP 화이트리스트를 기본으로 켜고, API 키와 액세스 토큰의 이상 징후를 모니터링한다.

시스템 카드에는 Daybreak Red의 신청 요건 세부 사항, 허용 인원, 가격이 적혀 있지 않다.

참고 출처: OpenAI GPT-6 Cyber 시스템 카드, CocoLoop, The Verge. 각 평가 점수, 비교 모델, 접근 조건을 확인하는 데 활용.