설립된 지 몇 달 안 된 사이버 보안 기업 Cathedral은 자사 AI 에이전트가 12시간도 안 되는 시간 안에 Anthropic 내부 업무 시스템으로 들어가는 경로를 찾아냈고, 회의록, 급여와 채용 제안 정보, 직원들이 Slack에서 프런티어 모델을 두고 나눈 메시지까지 접근했다고 주장한다. Anthropic은 이후 영업, 인사, IT 시스템 일부에 실제로 접근이 있었음을 확인했지만, 고객이 Claude에 보낸 프롬프트, Claude의 응답, 소스 코드, 모델 가중치는 건드려지지 않았다고 밝혔다.
이번 테스트는 Anthropic이 외부 연구자를 대상으로 운영하는 취약점 현상금(버그 바운티) 프레임워크 안에서 진행된 것으로, 범죄적 침입이 아니라 승인된 테스트에 해당한다. 사건은 워싱턴포스트가 보도했으며, Cathedral의 보고서 초안을 근거로 했다.
진입로는 공급업체 쪽에 있었다
현재까지 공개된 정보에 따르면 Cathedral의 에이전트는 Anthropic 자체 코드를 공략하지도, 모델을 건드리지도 않았다. 표적은 회사가 행정과 영업에 쓰는 여러 서드파티 상용 소프트웨어였다. 어느 공급업체의 어떤 취약점인지는 다른 사람이 재사용하는 것을 막기 위해 양측 모두 공개하지 않았으며, 해당 업체에는 통보가 이뤄졌다.
Anthropic이 설명한 대응 경과는 다음과 같다. 모니터링 시스템이 Cathedral의 보고 이전에 이미 활동 일부를 포착했고, 보고를 받은 당일 접근을 차단한 뒤 영향받은 업무 소프트웨어를 중단했으며, 공급업체가 수정을 확인한 뒤에야 다시 가동했다. 회사는 또 Cathedral 외의 누군가가 이 약점을 악용한 흔적은 발견하지 못했다고 밝혔다.
엇갈리는 양측 주장
쟁점은 크게 두 가지다. Anthropic은 Cathedral이 국가 안보 차원의 영향을 과장했고, 현상금 규정이 요구하는 대로 시스템 안에서 한 모든 활동을 충분히 공개하지도 않았다고 본다. Cathedral은 보안 연구 관행을 따랐고 데이터 접근을 필요 최소한으로 제한했다고 반박한다.
접근된 시스템에 무엇이 들어 있었는지에 대해서도 설명이 다르다. Cathedral의 초안에는 회의록, 보수, Slack 논의가 적혀 있지만, Anthropic은 일부 고객과 파트너의 업무용 연락처와 기본 계정 기록이라고 설명한다. 어느 쪽이 실상에 더 가까운지는 외부에서 현재 확인할 수 없고, Cathedral의 보고서도 아직 확정본으로 공개되지 않았다.
이 회사의 내력
Cathedral의 공동 창업자 네 명, Gavin Kliger, Luke Farritor, Marko Elez, Jack Stein은 모두 DOGE에서 일한 경력이 있으며, Kliger는 국방부 최고데이터책임자를 지내기도 했다. 로이터는 7월에 이 회사가 a16z와 세쿼이아 주도로 1억 6,000만 달러를 유치했고 기업 가치는 14억 달러라고 보도했다. 사업 방향은 미군을 위한 공격·방어 겸용 AI 사이버전 도구다. 한 정부 고위 관계자는 워싱턴포스트에 이미 연방 기관 세 곳이 이 회사와 계약했다고 말했다.
시간순으로 이어 보면, 7월에 자금을 확보하고 10월에는 선도 AI 연구소를 상대로 한 공개 사례를 만든 셈이다. Cathedral이 표적을 고른 배경은 외부에서 알 길이 없다. 다만 Anthropic이 굳이 "국가 안보 영향"에 반박하고 나선 점을 보면, 이번 테스트가 중대한 보안 실패로 받아들여지는 것을 원치 않음이 분명하다.
중국 기업도 점검해야
이번 사건이 중국 기업에 주는 시사점은 분명하다. 대부분의 기업이 인사, CRM, 협업, 싱글 사인온을 마찬가지로 외부 SaaS에 올려 두고 있으며, 권한은 흔히 전체 개방으로 열려 있고 OAuth 토큰은 오랫동안 회수되지 않는다. Cathedral이 보여 준 경로는 "더 약한 공급업체를 찾아 인증 연쇄를 따라 안으로 들어가는" 일을 에이전트로 반나절 만에 해내는 것이다.
할 수 있는 일은 복잡하지 않다. 내부 데이터에 연결된 외부 애플리케이션을 파악하고, 최소 권한 원칙으로 다시 설정하고, 장기 유효 토큰을 정기적으로 점검하고, 비정상적인 계정 행동에 경보를 거는 것이다. 이번에 Anthropic이 보고보다 먼저 일부 움직임을 포착할 수 있었던 것은 바로 마지막 조치 덕분이다.
참고 출처: 워싱턴포스트, Cyber Security News, CocoLoop, 로이터. Cathedral의 투자 유치액과 기업 가치는 로이터 보도를 기준으로 했으며, 접근 범위는 Anthropic의 성명과 Cathedral 보고서 초안의 서술을 각각 대조했다.