2주 전, 미국 재무장관 베센트와 연방준비제도 의장 파월이 월스트리트 경영진을 소집해 비공개 회의를 열었다. 이 사실만으로도 Mythos의 위협이 얼마나 현실적인지 알 수 있다.
하지만 비공개 회의가 끝은 아니었다. 그 후 훨씬 더 큰 규모의 움직임이 이어졌다.
중앙은행 총재들의 발언
영란은행 총재 앤드루 베일리는 "우리 모두에게 매우 심각한 도전"이라고 말하며 즉각적인 규제 평가를 요구했다.
유럽중앙은행 총재 크리스틴 라가르드는 더 직접적으로 "잘못된 손에 넘어가면 정말 나쁜 상황이 될 수 있다"고 말했다.
IMF 부총재 댄 카츠는 향후 몇 달간 사이버보안 위협이 "국제 의제에서 절대적으로 필수적인 사항"이 될 것이라고 말했다.
이들의 일상적인 업무는 글로벌 금융 안정을 관리하는 것이다. 평소에는 "잘못된 손에 넘어가면 정말 나쁘다"는 식의 발언을 공개적으로 하지 않는다. 그들이 이런 발언을 했다는 것은 내부에서 본 상황이 정말로 우려스럽다는 의미다.
배경은 간단하다. Anthropic은 Mythos가 인간의 능력을 넘어서는 속도와 규모로 소프트웨어 취약점을 자율적으로 발견하고 연쇄적으로 연결할 수 있음을 발견했다. 테스트 결과 "수천 개의 심각도가 높은 취약점을 발견했으며, 여기에는 모든 주요 운영체제와 웹 브라우저에서 발견된 것들도 포함되었다." 거의 모든 주요 OS와 브라우저에서 이전에 알려지지 않았던 보안 결함이 Mythos에 의해 발견되었다.
Anthropic의 접근 방식은 약 40개 기업(Amazon, Apple, JPMorgan Chase 포함)으로 접근 권한을 제한하여 이들 조직이 먼저 취약점을 테스트하고 패치할 수 있도록 한 것이다. 논리적으로는 타당하다. 문제는 다른 조직들은 어떻게 되느냐는 것이다.
아시아가 가장 빠르게 반응
싱가포르: 금융관리국과 사이버보안청이 연계하여 금융기관에 "보안 방어를 강화하고 취약점을 사전에 식별하여 차단하기 위한 노력을 배가하라"고 직접 요구했다. 평가를 기다리는 것이 아니라 즉각적인 조치다.
한국: 금융 규제 당국과 업계 단체가 AI 기술로 인한 사이버 위협에 대응하기 위해 긴급 합동 회의를 소집했다. 안전위원회 위원장 이원태는 이 기간 가장 직접적인 성명을 발표했다.
"우리는 해킹의 주도권을 인간이 아닌 AI가 쥐는 시대에 접어들었다."
공격과 방어의 관계가 역전되었다. 이전에는 인간이 취약점 발견을 주도했지만, 이제는 AI가 앞서 나가고 있다. 이는 비유가 아니라 Mythos의 실제 능력에 대한 문자 그대로의 설명이다.
호주: 비교적 조용했지만, 금융 서비스 기업에 "충분한 안전 장치"를 유지하고 신흥 기술 평가를 위해 다른 규제 기관과 조정할 것을 요구했다.
유럽의 문제: 테스트하고 싶지만, 할 수 없다
여기에는 이상한 딜레마가 있다.
유럽 규제 당국은 Mythos가 위협이 된다는 것을 알고 있으며 리스크를 독립적으로 평가하기를 원한다. 그러나 Anthropic의 40개 접근 권한 목록에는 유럽 기관이 거의 포함되어 있지 않다.
유럽은행감독청(EBA) 의장 프랑수아-루이 미쇼는 평가 작업이 "시작 단계에 있는 과정"이라고 말했다. 이에 비해 미국은 이미 비공개 회의를 마쳤고, 싱가포르는 행동에 나섰으며, 한국은 긴급 회의를 소집했다.
이는 정보 비대칭 문제다. 유럽 규제 당국은 모델에 직접 접근할 수 있는 수단이 없기 때문에 위협 수준을 독립적으로 판단할 수 없다. Anthropic이 제공하는 정보를 신뢰하거나 추측에 의존할 수밖에 없다.
Anthropic의 "제한적 접근" 전략에는 의도치 않은 부작용이 있다. 가장 많은 일차 정보를 보유한 조직(Amazon, JPMorgan 등)은 강력한 보안 팀을 보유하거나 Anthropic과 깊은 협력 관계에 있는 반면, 진정으로 독립적인 규제 감독이 필요한 정부와 국제 기관은 오히려 배제된 것이다.
JP모건의 양면적 시각
JP모건 CEO 제이미 다이먼은 비교적 균형 잡힌 견해를 제시했다. AI는 사이버 공격의 위험을 증가시키지만 더 나은 방어 도구도 제공한다고 말했다.
이 평가는 부분적으로 옳다. 공격과 방어 모두 AI에 의해 업그레이드될 것이다.
하지만 핵심 질문은 속도가 대칭적인지 여부다. 공격자가 (국가 행위자나 지하 채널을 통해) Mythos 수준의 모델을 더 빨리 확보할 수 있는 반면, 방어자는 Anthropic의 승인을 기다리는 줄을 서야 한다면 공방 균형은 깨진다. Anthropic의 현재 전략은 "신뢰할 수 있는 기관에 먼저 제공하여 취약점을 패치하게 하는 것"이다. 이 체인이 공격자의 행동 속도보다 빠를 수 있는지가 진정한 문제다.
글로벌 조정 프레임워크 없이, 무엇을 할 수 있나
현재 상태는 이렇다. 각 국가/지역이 자체 프레임워크를 사용하여 글로벌 위협에 대응하고 있으며, 정보 공유는 파편화되어 있고, 지정학적 긴장으로 인해 국제적 조정이 더욱 어려워지고 있다.
일부 규제 당국은 이미 통일된 글로벌 AI 안전 대응 메커니즘을 구축하는 것이 거의 비현실적이라고 인정했다. 이해관계가 일치하지 않고, 투명성 요구 사항이 다양하며, 정치적 민감성도 다르기 때문이다.
금융 시스템은 가장 체계적인 표적 중 하나다. 은행들은 고도로 상호 연결되어 있어 하나의 노드에서 발생한 취약점이 연쇄적으로 확산될 수 있다. 이것이 바로 중앙은행 총재들이 이 문제를 일반적인 AI 뉴스보다 더 진지하게 받아들이는 이유다.
그들은 AI의 미래에 대해 이야기하는 것이 아니다. 이미 존재하는 모델, 이미 검증된 능력, 그리고 현재로서는 완전한 대응 방안이 없는 위협에 대해 논의하고 있는 것이다.
출처: Latest AI models could threaten world banking system, financial officials warn (The Irish Times)；CocoLoop、Asia Regulators Raise Scrutiny on Banks Amid Mythos AI Fears (Insurance Journal)