Anthropic이 어제(4월 7일) 매우 이례적인 행보를 보였다. 새 모델을 출시했지만 일반인이 사용할 수 없도록 한 것이다.
이 모델은 Claude Mythos다. Anthropic 자체 내부 평가에 따르면, 사이버 보안 능력에서 다른 어떤 AI 모델보다 훨씬 뛰어나다. 그리고 회사는 공개하지 않고 소수의 지정된 파트너에게만 시험용으로 제공하기로 결정했다.
이 프로젝트는 Project Glasswing(글래스윙 프로젝트)이라고 불린다.
누가 사용할 수 있나?
명단은 화려하다: AWS, Apple, Nvidia, Google, Microsoft, Cisco, CrowdStrike, JP모건 체이스…… 약 10개 기술 대기업과 중요 인프라 유지보수를 담당하는 다른 40개 조직이다.
총 약 50개 기관이다. 전 세계 수십억 명이 사용하는 인터넷은 이 50개 기관이 Mythos를 사용해 취약점에 패치를 적용하는 데 의존하게 된다.
Anthropic은 또한 1억 달러 상당의 모델 사용 크레딧을 이들 파트너에게 무료로 제공했으며, 오픈소스 보안 커뮤니티에 400만 달러를 직접 기부했다.
Mythos는 실제로 어떤 취약점을 찾을 수 있나?
지난 몇 주 동안 Anthropic은 이미 Mythos Preview로 스캔을 수행했다:
- 수천 개의 제로데이 취약점, 모든 주요 운영체제와 주요 브라우저를 대상으로 함
- OpenBSD에 27년 동안 존재했던 취약점, 원격 시스템 충돌 유발 가능
- FFmpeg에서 수백만 회의 자동화 테스트를 통과한 16년 된 결함
- 권한 상승을 가능하게 하는 여러 Linux 커널 취약점
27년. 버그 사냥이 아니라 발굴 작업이다.
FFmpeg 취약점은 더 큰 문제를 시사한다: 수백만 회의 자동화 스캔이 놓친 것을 AI가 몇 주 만에 발견했다. 기존 보안 도구는 자신의 존재 가치를 걱정해야 할 때다.
왜 공개하지 않나?
Anthropic은 정부 고위 관계자에게 비공개로 경고했다: Mythos로 인해 대규모 AI 기반 사이버 공격이 올해 안에 현저히 더 발생할 가능성이 높아졌다고.
한 달 전, 실수로 유출된 내부 초안에는 이렇게 적혀 있었다: Mythos는 현재 사이버 보안 능력에서 다른 어떤 AI 모델보다 훨씬 뛰어나다. 이 문장은 이제 자랑이 아니라 심각한 우려의 표현으로 보인다.
방어와 공격은 동일한 능력을 사용한다. Mythos는 취약점을 찾고 수정하는 데 도움을 줄 수 있지만, 해커가 취약점을 찾아 침입하는 데도 도움이 될 수 있다. Anthropic의 접근 방식은 방어자에게 선제적 이점을 주는 것이다——대기업과 중요 인프라 유지 관리자가 공격자보다 먼저 구멍을 막을 수 있도록 하는 것이다.
이 전략에 문제는 없나?
이것은 매우 미묘한 도박이다.
설득력 있는 점: Mythos가 수십 년간 방치된 취약점을 대량으로 발견할 수 있다면 방어 측면에서 확실히 획기적이다. 기존 보안 도구로는 분명히 불가능하다. 그렇지 않았다면 27년 된 OpenBSD 버그는 이미 발견되었을 것이다.
하지만 50개 기관으로 제한하는 이 모델이 얼마나 오래 유지될 수 있을까? 파트너 조직 내부자가 유출할 가능성은? 다른 연구소가 유사한 능력을 복제할 수 있을까?
더 근본적인 문제는: Anthropic이 이미 만들어 버렸다는 점이다. 공개 여부와 관계없이 능력은 이미 존재한다. 공개 여부를 고민하는 대신, 경쟁사가 동일한 능력을 개발하기 전에 이 50개 기관이 얼마나 많은 구멍을 막을 수 있을지가 관건이다.
Project Glasswing은 위험 관리라기보다 시간과의 경쟁이다.
출처: Anthropic debuts preview of powerful new AI model Mythos in new cybersecurity initiative (TechCrunch); CocoLoop, Anthropic is giving some firms early access to Claude Mythos to bolster cybersecurity defenses (Fortune); Project Glasswing: Securing critical software for the AI era (anthropic.com); Project Glasswing: Anthropic announces big tech consortium to test Claude Mythos (IT Pro)