OpenAI가 보안팀의 '첫 확인' 업무 일부를 자체 모델에 맡기고 있다. 새로 들어오는 경보는 AI가 먼저 분류하고, 영향이 큰 판단만 사람이 처리한다. 8월 17일 공개한 보안 관련 게시물에서 그렉 브록먼은 이 체계를 공개적으로 밝히면서, 더 구체적인 주장도 내놓았다. 보안팀은 AI를 단순히 취약점을 더 많이 찾는 데 쓸 게 아니라, 실제로 중요한 취약점을 고치기까지의 경로를 단축하는 데 써야 한다는 것이다.
이는 단독으로 출시된 소프트웨어 기능이 아니다. 오히려 OpenAI가 자동화된 공격·방어 속도에 대해 공개적으로 설명한 자료에 가깝다. 모델은 이미 취약점, 잘못된 설정, 과도한 권한을 가진 계정 관계를 엮어 공격 경로를 구성할 수 있는 수준에 이르렀고, 방어 측이 여전히 기존 티켓 처리 속도로 대응한다면 능력이 향상되기도 전에 밀린 업무가 먼저 위험으로 번질 수 있다.
경보 분류부터 자동화
OpenAI에 따르면 현재 최초 보안 경보의 '거의 전부'가 먼저 AI 시스템의 분류를 거친 뒤 사람에게 넘어간다. 회사는 또한 탐지 결과를 범위가 제한된 자동 대응과 연결하고 있지만, 영향이 큰 결정은 사람의 몫으로 남겨둔다.
게시물 원문은 이렇게 밝힌다. "The goal is to ensure we can detect and respond to security issues at machine speed."(목표는 기계 속도로 보안 문제를 탐지하고 대응할 수 있도록 하는 것이다.) 쉽게 말하면 기계가 잘하는 반복적인 선별 작업의 속도를 높이는 대신, 권한 확대나 프로덕션 변경, 사고 판단은 여전히 보안 담당자가 맡는다는 뜻이다.
게시물에 등장하는 개인 사례도 OpenAI가 확산시키고 싶은 작업 방식을 보여준다. 브록먼은 공개된 GPT-5.6 Sol에게 자신의 개인 정적 사이트를 점검하도록 했고, 약 15분 만에 13건의 문제를 찾아냈다. 이후 약 1시간에 걸쳐 DNS, TLS, 의존성, 배포 관련 수정까지 도왔다. 이 사례는 회사 대표 개인의 경험으로, 일반적인 성능 기준으로 볼 수는 없지만 '발견-검증-수정'을 하나의 워크플로로 압축하는 방향을 보여준다.
가장 좁은 범위부터 스캔
OpenAI는 기업이 곧바로 무인 보안운영센터를 구축하라고 권하지는 않는다. 제시하는 경로는 상당히 신중하다. 먼저 코드 저장소 하나에 읽기 전용 스캔을 실행하고, 모델이 이미 종료된 경보를 읽어보게 한다. 이 과정의 신뢰성이 확인된 뒤에야 풀 리퀘스트 검토, 실시간 경보 분류, 범위가 명확한 오탐 자동 종료 단계로 넘어간다.
이 순서는 눈여겨볼 만하다. 보안 자동화가 가장 자주 문제를 일으키는 지점은 모델이 이상을 찾아낼 수 있는지가 아니라, 그 이상이 어떤 권한과 연결되는지인 경우가 많다. 게시물은 최소 권한, 네트워크 격리, 모니터링, 단계적 배포 같은 전통적 통제를 반복해서 강조한다. AI가 워크플로에 들어와도 이런 통제는 무의미해지지 않으며, 오히려 더 명확히 해둘 필요가 커진다.
개발팀 입장에서 지금 확인해야 할 지표는 '모델이 몇 건을 찾아냈는가'만이 아니다. 더 유용한 지표는 우선순위가 높은 문제가 발견부터 확인까지 걸리는 시간, 수정에 회귀 테스트가 동반되는지, 자동화된 작업이 매 단계에서 권한 경계 안에 머무는지다. OpenAI의 이번 발표는 이런 엔지니어링 지표를 AI 보안 제품 서사의 앞자리로 끌어냈다.
참고 출처: OpenAI 보안 게시물, CocoLoop, AI 경보 분류와 인간 판단 경계, 개인 사이트 사례 검증.