중국 AI 업체들, 신모델 사이버 공격 능력 낮춰

Moonshot AI, 텐센트, 알리바바 등 중국 선두 모델 개발사 3곳이 최근 한 달 사이 내놓은 신모델에서 똑같은 조치를 취했다. 공격적 사이버 능력은 낮추고, 방어 능력은 유지하거나 오히려 강화한 것이다. 블룸버그는 이번 주 이들 출시를 묶어 보도하며, 10월 상무부가 공개한 AI 수출 통제 초안과 관련이 있다고 분석했다. 세 회사 모두 자사의 접근 방식을 초안과 연결해 공개적으로 밝힌 적은 없다.

Illustration: hooks leave a toolbox while a shield lock and repair tools stay, as Chinese AI models curb offense

세 회사는 각각 무엇을 했나

Moonshot AI가 가장 먼저 움직였다. 10월 하순 Kimi K3.1 Pro를 내놓으면서, 훈련 데이터와 강화학습 환경에서 사이버 보안 관련 데이터를 제거하고 범용 코딩 능력은 그대로 두었다고 밝혔다. 통제된 환경에서 소프트웨어 취약점을 찾아 악용하는 이 회사의 사내 공격·방어 벤치마크에서 K3.1 Pro는 81.0%를 얻었고, 위험 저감을 하지 않은 동급 버전은 90.5%였다. 81.0%도 이전 세대보다는 다소 높다. 이 수치는 독립적인 검증을 거치지 않았다.

“We aim not to release open weights that would extend the absolute frontier of cyber capability.” (Moonshot AI: 사이버 능력의 절대적 최전선을 넓히는 오픈 웨이트는 공개하지 않을 계획입니다.)

텐센트는 11월 4일 Hunyuan Hy4를 공개했다. 사이버 보안 훈련은 소프트웨어 결함을 찾아 수정을 돕는 것과 같은 방어 목적에만 사용했고, 해킹 도구 제작, 시스템 침입, 시스템 취약점 탐색에 관한 자료는 제외했다고 밝혔다. 사내 보안 전문가들이 테스트한 결과 Hy4가 소프트웨어 침입이나 보안 장치 우회를 돕는 위험이 높아진 징후는 보이지 않았고, 유해한 생물 실험을 더 쉽게 만든다는 정황도 발견되지 않았다고 한다. 텐센트는 이후 안전성 테스트 보고서와 함께 가중치를 공개할 계획이다.

알리바바는 11월 16일 Qwen4-Max를 공개했다. 훈련 과정에 안전성 점검을 넣어 코드 인젝션, 메모리 안전성 결함, 접근 제어 실패 같은 취약점을 줄였고, 사이버 범죄와 위험 물질 관련 오남용에 대한 방어도 강화했다고 밝혔다. 사내 테스트에서는 뚜렷하게 위험도가 높은 능력이 발견되지 않았다는 설명이다. 블룸버그 보도에 따르면 이번 세대 플래그십은 오픈 웨이트가 아니어서, 사용자가 전체 버전을 내려받아 직접 수정할 수 없다. 이 점에 대해 알리바바는 별도로 입장을 내지 않았다.

초안이 그은 선

상무부와 과학기술부가 10월 공동으로 공개한 초안은 23개 AI 기술을 수출 통제 목록에 올리는 내용으로, 대규모 모델, 에이전트, 칩 설계, 컴퓨팅 클러스터를 포괄한다. 대규모 모델은 가중치와 소스 코드 같은 핵심 요소가 통제 대상이며, 기준은 파라미터 2조 개 이상이거나 성능·안전성 등 테스트에서 세계 10위권에 드는 것이다. 초안이 꼽은 위험에는 AI 기반 악성코드의 생성과 변형, 그리고 핵심 기반시설·국방 산업·정부 핵심 시스템 공격에 쓰일 수 있는 AI 보조 취약점 탐색 도구가 포함된다.

예외 조항도 분명하게 적혀 있다. 오픈소스 코드와 이미 발표된 연구는 통제 범위에 들지 않는다. 앱, 웹사이트, API를 통해 해외 사용자에게 서비스를 제공하는 것도 계속 허용된다. 통제 대상 모델을 해외 서버에서 운용하는 것은 수출로 보지만, 기업이 자사의 해외 클라우드 서버에서 돌리는 경우에는 자동으로 허가를 받는다. 의견 수렴은 11월 15일 마감됐으며, 최종안 확정 시점은 아직 공개되지 않았다.

기준에 비춰 보면 Kimi K3.1 Pro는 스스로 3조 파라미터급이라고 밝히고 있고, Qwen4-Max의 백본 파라미터는 2.4조 개로 둘 다 2조 기준선을 넘는다.

개발자와 보안팀에 미치는 영향

최종안이 초안과 크게 다르지 않다면 영향이 가장 직접적인 집단은 둘이다.

하나는 오픈 웨이트를 기반으로 2차 개발을 하는 팀이다. 기준을 넘는 모델의 가중치를 해외에 계속 공개할 수 있는지는 허가에 달려 있고, 중국 내에서 예전처럼 내려받을 수 있는지는 초안에 직접 쓰여 있지 않아 최종안과 후속 해석을 기다려야 한다. Moonshot AI는 이미 능력을 먼저 깎은 뒤 가중치를 공개하는 길을 택했고 텐센트도 가중치는 나중에 공개하겠다고 했다. 이 두 경로가 업계의 기본 방식이 될지는 다음 출시에서 드러날 것이다.

다른 하나는 침투 테스트와 레드팀 훈련을 하는 보안 실무자다. 지금까지는 오픈 모델로 익스플로잇 코드 작성을 돕게 하거나 취약점 검증을 돌려 왔는데, 앞으로 나오는 중국산 신모델은 이 분야에서 더 보수적으로 동작할 것이다. 코드 리뷰, 결함 탐색, 패치 작성 같은 방어 작업은 세 회사 모두 능력을 유지하거나 강화했다고 밝혔으나, 실제 효과는 제3자 평가를 기다려야 한다.

비교할 만한 사례도 있다. 미국에서 OpenAI는 더 강력한 사이버 보안 모델을 심사제 프로그램을 통해 선별된 방어 담당자에게만 제공하는 방식을 택했다. 중국 업체들이 현재까지 공개한 방식은 훈련 단계에서 공격 능력을 깎아내는 것이다. 두 방식의 효과는 지금으로서는 모두 각 회사의 설명뿐이다.

참고 출처: 블룸버그, 텐센트 Hy4와 Kimi K3.1 Pro에 대한 로이터 보도, CocoLoop, The Next Web. 공격·방어 벤치마크 점수는 Moonshot AI의 자체 테스트 기준이며, 통제 목록 항목 수와 파라미터 기준은 상무부·과학기술부의 의견 수렴 초안을 따른다.