Kimi K3.1 Pro 가중치 공개, 파일 크기 5.6TB

Moonshot AI가 10월 24일 발표 당시 약속한 대로 Kimi K3.1 Pro의 모델 가중치를 Hugging Face에 공개했다. IT홈(IT之家)이 11월 5일 이 소식을 전했다. 모델의 총 파라미터는 2.8조 개이고, 추론 1회당 활성화되는 파라미터는 약 1040억 개, 컨텍스트는 약 100만 토큰이다.

가중치 파일의 크기도 눈에 띈다. BF16 버전은 약 5.6TB, INT4로 양자화하면 약 1.4TB다.

이번에 기다려야 할 세부 사항은 라이선스 조건이다. 공개 자료에 따르면 이전 세대인 K3는 수정된 MIT 라이선스를 사용했다. K3.1 Pro의 조건은 아직 공식 페이지에서 확인하지 못했으므로, 상업적 이용을 고려하는 독자는 저장소의 LICENSE 파일을 기준으로 삼아야 한다.

실제 세션으로 점수를 매기는 리더보드

가중치 공개와 함께 인용된 성적은 Arena의 Agent Arena 리더보드에서 나왔다. K3.1 Pro는 오픈 웨이트 모델 중 1위, 평가에 참여한 전체 모델 중에서는 13위다. 업무, 코딩, 채팅 세 범주 모두에서 오픈 모델 1위를 차지했다.

이 리더보드는 쌍별 블라인드 투표를 하지 않는다. 실제 에이전트 세션에서 작업 확인, 칭찬과 불만, 사용자의 수정, 셸 오류 같은 신호를 추출한 뒤 '인과 추적'이라는 무작위화 추론 방법으로 순개선율을 추정한다. 이번 평가는 1만 7500건이 넘는 장기 작업 세션을 대상으로 했다.

Bash 신뢰도는 마이너스에서 플러스로 돌아섰고 오픈 모델 중 1위에도 올랐다. 긴 작업을 돌리는 사용자에게 가장 직접적으로 와닿는 부분이다. 명령이 연달아 실패하는 에이전트에게는 일을 마음 놓고 맡기기 어렵다. 작업 확인 성공률은 +3.9%로 오픈 모델 중 4위에 그쳐, 모든 항목에서 앞선 것은 아니다.

폐쇄형 두 플래그십과의 비교

Moonshot AI가 공개한 비교표에는 내부 테스트를 포함해 수십 개의 벤치마크가 실려 있다. 아래에서는 공개 벤치마크만 추렸다.

앞서는 항목은 대개 도구를 쓰는 긴 워크플로 작업이고, 뒤처지는 항목은 과학 과제, 고난도 추론, 사이버 공방에 몰려 있다. Terminal-Bench 4.0에서는 Opus 5.5와 0.7점 차이지만, 이 벤치마크의 과학 분과로 가면 격차가 25점 이상으로 벌어진다. 이 표는 개발사가 공개한 것이며, 일부 점수는 제3자의 재현이 아직 이뤄지지 않았다.

공방 항목은 따로 볼 만하다. 오픈 웨이트 모델은 한번 내려받으면 회수할 수 없다. ExploitBench 74.7점과 ExploitGym 20.7점은 폐쇄형 플래그십과 아직 거리가 있으며, 오픈 공개를 둘러싼 보안 논의에서 하나의 참고 지표가 된다.

다운로드할 수 있다는 것과 실행할 수 있다는 것은 다르다

IT홈은 보도에서 '다운로드 가능'과 '로컬 실행 가능' 사이에 큰 거리가 있으며, 일반 소비자용 그래픽카드로는 사실상 배포할 수 없다고 따로 짚었다.

대략 계산해 보자. 1.4TB의 INT4 버전을 전부 GPU 메모리에 올리려면 카드 한 장을 80GB로 칠 때 데이터센터급 GPU가 약 18장 필요하다. 컨텍스트 캐시 비용은 아직 포함하지 않은 수치다. MoE 구조라 한 번에 활성화되는 파라미터는 약 1040억 개뿐이고, 일부 풀 어텐션 층도 게이트형 희소 어텐션으로 바꿔 긴 컨텍스트의 비용을 줄였지만, 가중치는 어딘가에 올려 둬야 한다.

그래서 중국 내 대부분의 팀에게 이번 가중치 공개의 직접적인 이점은 직접 배포하고 가격도 스스로 정할 수 있는 몇몇 클라우드 업체와 추론 서비스 업체에 돌아간다. 일반 개발자가 체감할 변화는 호출할 수 있는 창구가 늘어나는 쪽에 가깝다. 이로 인해 가격이 내려갈지는 서드파티 호스팅 버전이 나온 뒤에 비교해 봐야 한다.

참고 출처: IT홈, CocoLoop, Arena Agent Arena 리더보드. 벤치마크 점수는 Moonshot AI가 공개한 비교표 기준이며, 필요 메모리 용량은 자체 추산이다.