MiniMax, M3.1 Flash 가중치 공개 활성 23B

MiniMax는 10월 23일 M3.1 Flash의 모델 가중치를 공개한다고 밝혔다. Hugging Face와 ModelScope(모탑 커뮤니티)에 동시에 올라왔다. 공식이 제시한 규모는 총 파라미터 약 428B, 토큰당 활성 23B다.

이 모델은 9월 말 프리뷰 버전으로 API에 먼저 붙었고, 당시에는 Hugging Face에 대응하는 가중치가 없었다. 모델 카드 설명에 따르면 네이티브 멀티모달 전문가 혼합(MoE) 모델로, 텍스트·이미지·동영상을 입력받아 텍스트를 출력한다. 코딩, 에이전트 작업, 컴퓨터 조작, 사이버 보안을 주요 용도로 내세운다.

모델 카드에 적힌 내용

아키텍처에는 세 가지 변경이 있다. 첫째, MiniMax가 자체 개발한 희소 어텐션(MSA)을 모델 전체에 적용해 기존 앞쪽 세 층의 풀 어텐션을 대체했다. 둘째, 라우팅 전문가와 어텐션 경로 모두에 양자화 인식 학습을 적용했다. 셋째, 가중치와 함께 추측 디코딩 가속용 DSpark 드래프트 헤드를 제공한다.

컨텍스트 윈도는 최대 100만 토큰이며, 모델 카드는 실제 사용 가능한 길이가 GPU 메모리와 배포 구성에 따라 달라진다고 따로 적어 두었다. 추론 강도는 reasoning_effort로 조절하며 low, medium, high, xhigh, max의 다섯 단계다. 권장 샘플링 파라미터는 temperature 1.0, top_p 0.95다.

배포 측면에서는 SGLang, vLLM, TokenSpeed를 지원하고, SGLang과 Docker Model Runner용 이미지를 제공하며, 멀티 칩 환경은 FlagOS를 통한다. 권장 GPU 모델과 장수는 모델 카드에 나와 있지 않다.

라이선스는 minimax-community로 표기돼 있다. 구체적인 상업적 이용 조건은 저장소의 LICENSE 파일에 있으므로, 제품에 쓸 계획인 팀은 먼저 조항을 읽어야 한다.

모델 카드에는 맞지 않는 부분이 하나 더 있다. Hugging Face 페이지가 읽어 들인 Safetensors 메타데이터는 파라미터 수를 약 220B로 보여 주는데, 공식 수치인 428B와 거의 절반 가까이 차이가 난다. 대략 양자화 후 저장 형식과 관련이 있을 것으로 짐작되지만, MiniMax는 현재까지 이에 대한 설명을 내놓지 않았다.

무엇과 비교했나

공식이 골라 낸 성적은 에이전트와 보안 계열 벤치마크에 집중돼 있다.

BankerToolBench는 Opus 5와 동점이다. OSWorld 2.0은 약 9점, Terminal Bench 4.0은 13.7점 낮다. 이 밖에 공개된 성적은 Agents' Last Exam 29.6, HLE(도구 미사용) 43.4, BabyVision(도구 사용) 91.0, CharXiv RQ 82.5다. 모두 MiniMax가 공식 가중치로 직접 측정한 결과이며, 모델 카드는 서드파티 양자화 버전은 점수가 다를 수 있다고 당부한다. 독립 평가는 아직 나오지 않았다.

공식이 고른 비교 항목으로 보면, 활성 23B의 오픈 가중치 모델은 터미널·컴퓨터 조작처럼 긴 연쇄가 필요한 작업에서는 폐쇄형 플래그십과 아직 거리가 있고, 금융 도구 호출처럼 좁은 영역에서는 따라잡은 모습이다.

M3에서 M3.1 Flash로

공개 자료에 따르면 MiniMax-M3는 6월 1일에 발표됐다. 규모는 마찬가지로 총 파라미터 428B, 활성 23B이며, 당시 이미 100만 컨텍스트와 희소 어텐션을 강점으로 내세웠다. M3.1 Flash는 파라미터 규모가 그대로이고, 변화는 어텐션 층 교체, 양자화 인식 학습, 추측 디코딩 헤드에 있다. 같은 크기의 모델을 더 경제적으로 돌리겠다는 발상이다.

일정에서도 속도가 보인다. 9월 말 프리뷰 공개, 10월 17일 Hugging Face 저장소 생성, 10월 19일 전후로 서드파티 라우팅 서비스가 날짜 접미사가 붙은 엔드포인트를 열었고, 10월 23일 가중치가 공개됐다. 기사 작성 시점 기준 이 저장소의 다운로드 수는 1천 회를 조금 넘는다.

중국 개발자에게는 ModelScope 동시 등재 덕분에 수백 GB의 가중치를 해외에서 내려받는 번거로움이 사라진다. 자체 배포의 문턱은 하드웨어다. 428B 파라미터는 4비트로 대략 계산해도 가중치만 200GB 이상의 GPU 메모리가 필요하고, 긴 컨텍스트용 KV 캐시는 아직 포함하지 않은 수치다. 80GB GPU 여러 장이 있어야 올릴 수 있어, 중소 팀에게 현실적인 방법은 여전히 API 호출이다.

참고 출처: MiniMax 공식 발표, Hugging Face 모델 카드, CocoLoop, OpenRouter. 파라미터 규모, 컨텍스트 길이, 라이선스 명칭, 모델 카드 벤치마크 점수를 확인했다.