Kimi K2.6, HLE 오픈소스 1위 달성

Moonshot AI가 지난주 Kimi K2.6 완전판을 출시했다. 이는 '코드 프리뷰' 베타 버전이 아닌 완전한 프로덕션 등급 모델이다. 이전 코드 프리뷰도 주목을 받았지만, 완전판의 기술 사양과 벤치마크 결과는 많은 사람들의 예상보다 더 흥미로운 것으로 드러났다.

HLE-Full 54.0, 오픈소스 1위는 실제다

HLE(Humanity's Last Exam)는 올해 AI 벤치마크 중 가장 권위 있는 순위 중 하나로, 100개 이상의 학술 분야에 걸친 2,500개의 박사 수준 문제로 구성되어 있다. 몇 번의 few-shot으로 넘어갈 수 있는 종류의 테스트가 아니다.

Kimi K2.6 결과:

모델HLE-Full(도구 사용)
Kimi K2.654.0
Claude Opus 4.653.0
GPT-5.452.1

격차는 크지 않지만 방향은 명확하다. 오픈소스 모델이 최고 수준의 학술 추론 벤치마크에서 두 개의 클로즈드소스 플래그십 모델을 앞질렀다. SWE-Bench Pro 58.6, BrowseComp 83.2, CharXiv(Python 포함) 86.7, 수학 시각 추론 93.2.

Moonshot AI는 릴리스 노트에서 이 버전의 개선 사항을 설명하기 위해 "far more execution and imagination"이라는 표현을 사용했다.

1조 파라미터, 하지만 320억만 활성화

이것이 MoE 아키텍처의 핵심 로직이다. Kimi K2.6은 1조 파라미터의 Mixture-of-Experts 모델로, 추론마다 32B(320억) 파라미터만 활성화한다. 384개의 전문가가 그룹으로 관리되며, 각 응답은 8개의 라우팅 전문가와 1개의 공유 전문가를 호출한다. 이점은 양방향으로 나타난다:

  • 훈련 측면: 총 파라미터 수가 많을수록 학습되는 지식이 많다
  • 추론 측면: 활성화 파라미터가 적어 계산 비용을 관리하기 쉽다

어텐션 메커니즘은 MLA(Multi-Head Latent Attention)를 사용하여 처리된 데이터를 경량 수학적 표현으로 압축하고 KV 캐시 사용량을 줄인다. 활성화 함수는 SwiGLU로, 이전 세대보다 하드웨어 친화적이다. 비전 모듈은 별도의 400M 파라미터 인코더로, 이미지 및 멀티미디어 입력을 지원한다.

컨텍스트 윈도우는 256K이며 INT4 양자화도 지원되어 로컬 배포도 가능해졌다.

300개 에이전트 병렬, 12시간 연속 실행

이것이 Kimi K2.6이 개발자들에게 진정으로 흥미로운 부분이다:

  • 최대 300개의 서브 에이전트 병렬 실행 지원
  • 단일 작업당 최대 4,000회 이상의 도구 호출
  • 연속 실행 시간 12시간까지 중단 없음

이러한 규모의 멀티 에이전트 협업을 지원하기 위해 Moonshot AI는 'Claw Groups'를 도입했다. 이는 대규모 작업을 인간과 AI가 협력하여 실행할 수 있는 하위 그룹으로 분할하는 방식이다. 인간은 주요 의사 결정 지점에 개입하고, AI는 중간 프로세스의 대량 실행 작업을 담당한다. 그 논리는 공장 조립 라인의 인간-기계 분업과 유사하다.

엔터프라이즈 애플리케이션의 경우 이 설계는 실용적이다. 실제 워크플로는 '완전 자동화' 또는 '완전 수동' 중 하나를 선택하는 것이 아니라, 인간이 중요한 노드에서 감독하고 AI가 그 사이의 많은 작업을 수행하는 방식이 필요하다.

오픈소스 생태계 첫날부터 연결

출시 당일 vLLM, OpenRouter, Cloudflare Workers AI 및 MLX를 이미 지원했다. 이는 몇 달 전부터 시작된 생태계 연동 작업의 결과였다.

  • MLX: Apple Silicon에서 실행 가능
  • OpenRouter: API 통합 플랫폼에 직접 연결
  • vLLM: 고처리량 추론 배포에 장애 없음
  • Cloudflare Workers AI: 엣지 추론에 길이 열림

이러한 통합을 첫날에 완료한 것은 우연이 아니다. Moonshot AI가 출시 전에 진지한 엔지니어링 준비를 했음을 보여준다.

오픈소스 경쟁이 진지하게 따라잡고 있다

작년까지만 해도 "오픈소스 모델은 GPT-4와 명확한 격차가 있다"고 말하는 사람들이 있었지만, 올해는 그 말이 더 이상 통하지 않는다.

Kimi K2.6은 HLE에서 Claude Opus 4.6과 GPT-5.4를 앞질렀다. DeepSeek V3.2는 어텐션을 희소 구조로 변경하여 비용을 절반으로 줄였다. Qwen3.6-35B는 MacBook에서 실행되며 SWE-bench에서 73.4%를 기록했다.

오픈소스는 더 이상 클로즈드소스의 저가 대체재가 아니라, 특정 벤치마크 차원에서는 오히려 선도하고 있다. 기업 입장에서는 프라이빗 배포, 데이터 기밀성, 비용 관리와 같은 요구 사항에 대해 마침내 플래그십급 사용 가능 옵션이 생겼음을 의미한다.

벤치마크 점수와 실제 프로덕션 사이에는 여전히 간극이 있다. HLE의 54.0과 일상적인 코드 디버깅, 장문서 이해, 다중 턴 대화는 다른 문제다. 그러나 방향은 명확하다. Moonshot AI는 이 전투를 진지하게 싸우고 있으며, 이번 라운드는 승리했다.

출처: Moonshot AI releases Kimi-K2.6 model with 1T parameters,CocoLoop, attention optimizations (SiliconANGLE); [AINews] Moonshot Kimi K2.6: the world's leading Open Model refreshes to catch up to Opus 4.6 (Latent Space)