미국 국가안보국(NSA), 사이버보안·인프라보안국(CISA), 연방수사국(FBI)은 9월 8일 공동으로 사이버보안 경고를 발표하고 중국 AI 기업 6곳을 지목했다. 이들 기업이 '증류(distillation)' 기법을 이용해 미국 첨단 모델의 독점적 능력을 대규모로 빼내 자사 제품 학습을 가속화하고 있다는 것이다. 공개 보도에서 실명이 확인된 곳은 DeepSeek, Moonshot AI, 알리바바 3곳이다.
경고에 따르면 대상이 된 모델은 Anthropic, OpenAI, 구글, 스페이스X의 것이며, 이러한 행위는 '중국 정부가 인지한 상태에서 이뤄졌을 가능성이 높다'고 명시했다. 관련 기업들은 하나의 플랫폼에 집중하지 않고 분산 운영해 탐지를 피했다고도 적혀 있다. 미국 측은 이러한 능력 향상이 중국의 군사·사이버 공격 능력을 한층 강화할 수 있다고 덧붙였다.
'증류' 자체가 혐의는 아니다
증류는 학습 과정에서 흔히 쓰이는 기법이다. 더 크고 비용이 많이 드는 모델의 출력값을 이용해 더 작은 모델을 학습시키는 방식으로, 시간과 비용을 아낄 수 있다. 학계에서는 수년간 사용해 왔고, 각 연구소도 내부적으로 활용하고 있다. 대형 모델을 온디바이스용 소형 모델로 압축할 때 기본적으로 이 방식을 쓴다.
이번 경고의 초점은 기법 자체가 아니라 승인 여부와 규모에 있다. 미국 측의 주장은 이들 기업이 승인 없이, 산업적 규모로 이를 수행했다는 것이다. 이 구분은 문서에 명시돼 있지만, 전달 과정에서 가장 쉽게 누락되는 부분이기도 하다. 이를 빼면 '증류를 쓰는 것 자체가 절도'라는 이야기가 되는데, 그건 성립하지 않는다.
공개되지 않은 부분
경고문의 공개본에는 혐의를 뒷받침하는 기술적 증거가 담겨 있지 않다. 접속 로그, 계정 귀속 정보, 유출 규모를 보여주는 구체적 수치 모두 제시되지 않았다. '중국 정부가 인지한 상태에서 이뤄졌을 가능성이 높다'는 표현도 가능성을 언급한 것일 뿐 단정은 아니다. 기사 작성 시점까지 지목된 기업들과 중국 당국 모두 공식 대응을 내놓지 않았고, 문서 자체에도 후속 법 집행이나 제재 조치는 언급돼 있지 않다.
기업 입장에서 확실한 것은 하나뿐이다. 미국 각 모델 제공업체의 이용약관은 이미 오래전부터 자사 출력값을 경쟁 모델 학습에 사용하는 것을 금지해 왔다. 달라진 점은 이 규칙이 놓인 위치다. 과거에는 계약 조항으로 존재해 플랫폼이 계정 정지로 대응했다면, 이제는 국가안보 기관의 공동 경고문에 등장한다는 점에서 성격이 한 단계 격상된 셈이다.
시점
이번 경고는 두 가지 사안을 앞두고 나왔다. 미중 양국은 9월 중순 AI 안전 위험을 논의할 예정이고, 시진핑 국가주석은 9월 하순 미국을 방문할 것으로 예상된다. 같은 날 스콧 베선트 미국 재무장관은 미국이 AI 경쟁에서 중국에 뒤처지면 그 결과가 매우 심각할 것이라고 공개적으로 밝혔다.
국내 모델 개발사 입장에서 직접적인 영향은 경고문 자체가 아니다. 법적 구속력이 없기 때문이다. 영향은 하류에서 나타난다. 해외로 진출하는 제품이 미국 클라우드에 연결하거나, 미국 앱스토어에 등록하거나, 미국 기업 고객을 확보할 때, 구매 측이 컴플라이언스 질문지에 '귀사 모델의 학습 데이터에 제3자 모델의 출력값이 포함돼 있는가'라는 항목 하나를 추가하는 것은 어렵지 않은 일이다. 국내 주요 모델 기업 상당수가 최근 몇 년간 해외 기업 시장 진출을 추진해 왔는데, 이 항목을 깔끔하게 답하기가 쉽지 않다. 학습 데이터 출처는 명확히 설명하지 못하면 그 자체가 문제가 되는 성격의 사안이기 때문이다.
또 다른 문제는 입증이다. 증류의 흔적은 파일이 아니라 모델 가중치에 남기 때문에, 제3자가 이를 입증하거나 반증할 확립된 방법이 현재로서는 없다. 학계에서는 모델 출력값에 워터마크나 지문을 심는 방안이 몇 년째 제안돼 왔지만 여전히 논문 단계에 머물러 있으며, 증거로 채택된 사례는 없다. 이런 종류의 의혹이 경고 수준에 그치고 소송까지 이어지는 경우가 드문 이유이기도 하다.
국내 사용자에게 미치는 눈에 보이는 영향은 현재로선 거의 없다. 지목된 제품들은 평소대로 운영되고 있고, 국내 API나 앱에도 변화가 없다. 주의해서 지켜봐야 할 쪽은 반대편이다. 미국 모델 제공업체들이 출력값 사용에 대한 탐지와 계정 제재를 강화할 가능성이 있으며, 해외 API에 의존해 2차 개발을 하는 팀들은 계정 리스크가 이전보다 커질 수 있다.
참고 출처: NSA·CISA·FBI 공동 사이버보안 경고, 로이터, CocoLoop, 연합신문망, 성도두조; 지목된 기업 수는 경고문 원문 기준이며, 공개 보도에서 실명이 확인된 곳은 3곳, 나머지 3곳은 공개되지 않았다.