xAI와 Google, Microsoft가 프런티어 AI 모델을 공개하기 전에 미국 정부의 안전 심사에 제출하기로 했다.
세 회사는 5월 5일 미국 상무부 산하 CAISI, 즉 AI 표준·혁신 센터가 운영하는 심사 절차에 참여한다고 확인했다. 쉽게 말해 모델을 공개하기 전에 정부 과학자들이 국가 안보 위험을 시험할 수 있도록 버전을 넘기는 방식이다.
CAISI가 하는 일
CAISI는 미국 상무부에 속한 조직이다. 현재 임무는 트럼프 행정부가 2025년 7월 기술 기업과 AI vetting에 협력하겠다고 약속한 데서 출발했다.
핵심 역할은 분명하다. 프런티어 AI 모델이 공개 배포되기 전에 평가하고 국가 안보 위험을 찾아내는 것이다. CAISI는 지금까지 40건이 넘는 프런티어 모델 평가를 마쳤으며, 사이버 공격과 군사적 오용 같은 위험 능력을 주로 본다고 설명해 왔다.
CAISI의 Chris Fall 국장은 독립적이고 엄밀한 측정 과학이 프런티어 AI와 그 국가 안보 영향을 이해하는 토대라고 말했다.
절차는 꽤 구체적이다. 개발사가 내는 것은 안전장치가 붙은 제품 버전만이 아니다. 안전장치를 제거한 내부 모델을 제공해야 CAISI가 실제 능력의 상한을 시험할 수 있다.
명단은 어떻게 늘었나
현재까지의 흐름은 이렇다.
- 2024년: OpenAI와 Anthropic이 먼저 자발적 협정을 맺었다.
- 2025년 7월: 트럼프 행정부가 기술 기업과 AI vetting에 협력하겠다고 밝혔다.
- 2026년 5월 5일: Microsoft, Google, xAI가 합류했다.
Microsoft는 정부 과학자들과 함께 모델의 “예상치 못한 행동”을 탐지하는 방식으로 시험하겠다고 밝혔다. 이 표현이 중요한 이유는 훈련 과정에서는 보이지 않았지만 배포 뒤 드러나는 능력을 가리키기 때문이다.
xAI의 결정은 더 이례적이다. Elon Musk는 한편으로는 AI에 규제가 필요하다고 말해 왔고, 다른 한편으로는 SpaceX 자료에 xAI의 컴플라이언스 위험을 적어 왔다. CAISI 합류는 xAI가 드물게 제도권에 발을 맞춘 사례다.
직접적 압박은 Mythos였다
이 시점이 선택된 데는 배경이 있다. Anthropic은 최근 Mythos라는 사이버보안 모델을 공개했다. 이 모델은 OpenBSD에서 27년 동안 발견되지 않았던 취약점을 2주 안에 찾아냈다고 알려졌다. 이후 Anthropic은 12개 대기업과 연합을 꾸리고 중앙은행 관계자들에게 시연했으며, Jerome Powell과 Scott Bessent, 월가 임원들의 긴급 회의로도 이어졌다.
CAISI 내부의 우려는 Mythos 같은 능력이 이미 해커의 역량을 증폭할 수 있는 수준에 이르렀다는 점이다. 그런 수준이라면 어떤 AI 회사도 국가 차원의 평가 없이 모델을 공개해서는 안 된다는 논리가 선다.
명단이 두 회사에서 다섯 회사로 넓어진 실제 배경도 여기에 있다. Google의 Gemini, xAI의 Grok, Microsoft의 Phi 계열도 능력 기준선을 넘은 만큼 CAISI가 OpenAI와 Anthropic만 볼 수는 없다.
국방부는 다른 축으로 움직인다
비교해 볼 또 다른 정책 축도 있다. CAISI는 상무부의 안전 평가 채널이고, 국방부는 조달과 배치 협력을 추진하고 있다.
이번 주 초 국방부는 8개 AI 회사와 기밀 네트워크 배치 계약을 맺었다. Anthropic은 명단에 없었다. 군사적 사용에 대한 Anthropic의 엄격한 가드레일 때문에 일부 용도에서 합의가 어려웠던 것으로 알려졌다.
현재 구도는 다음과 같다.
- CAISI 심사 명단: OpenAI, Anthropic, Microsoft, Google, xAI.
- 국방부 협력 명단: Anthropic을 제외한 AI 회사 8곳.
- 연방 법원은 지난주 국방부 금지 조치와 관련한 Anthropic의 긴급 신청도 기각했다.
Anthropic은 CAISI에는 협력하지만 국방 부문에서는 쓰기 까다로운 위치에 있다. OpenAI와 Google은 두 축 모두에 들어가 있다.
규제 틀이 조립되고 있다
미국 연방 차원의 포괄적 AI 법은 아직 없다. 하지만 FTC, SEC, DOJ, CAISI, 국방부, 백악관 행정명령 같은 도구들이 하나씩 동원되고 있다. 주 차원에서는 뉴욕의 RAISE Act가 확정됐고, 캘리포니아와 텍사스도 따라가고 있다.
이번 CAISI 명단 확대의 의미는 모델 사전 심사가 두 회사의 자발적 조치에서 주요 AI 기업의 사실상 표준으로 옮겨가고 있다는 점이다. 백악관이 앞으로 이를 행정명령으로 의무화하면 시장 진입 조건이 될 수 있다.
새 모델 출시 속도는 느려질까. 그럴 가능성이 크다. GPT-5.5 같은 모델도 내부 테스트에서 출시까지 몇 주 만에 가던 흐름이라면 앞으로는 CAISI 심사 기간을 남겨야 할 수 있다. 다만 AI 능력이 이 속도로 움직인다면, 아무도 심사하지 않는 것이 더 큰 위험이다.
참고 자료: Microsoft, CocoLoop, xAI and Google will share AI models with US govt for security reviews(복수 통신사 종합, 2026-05-05); Pentagon strikes deals with 8 Big Tech companies after shunning Anthropic(CNN Business, 2026-05-01)