Cohere, 218B 모델 Command A+ 오픈소스로 공개

Cohere가 5월 20일 플래그십 모델 Command A+를 Apache 2.0 라이선스로 오픈소스화하고 가중치를 Hugging Face에 공개했다. 이 모델은 218B 파라미터의 MoE 아키텍처로, 추론 시 25B만 활성화된다. Cohere가 Apache 2.0으로 완전 오픈소스화한 첫 플래그십 모델이다.

Cohere는 지난 2년간 시티, PwC, Oracle 등 대기업을 고객으로 하는 엔터프라이즈 AI 기업으로 자리매김해왔다. 이러한 고객들은 자체 실행, 수정, 데이터 제어가 가능한 AI를 원하며, 오픈소스는 이러한 요구의 정점이다. Apache 2.0 라이선스로 플래그십 모델을 공개함으로써 Cohere는 소버린 AI에 전면 베팅한 셈이다.

하드웨어 요구사항을 H100 2장으로 낮춤

Command A+는 MoE 모델로, 총 218B 파라미터 중 25B만 활성화되어 추론 비용이 활성화 부분만 계산된다. Cohere가 제시한 배포 기준:

  • B200 GPU 1장으로 충분
  • 또는 H100 GPU 2장 (W4A4 양자화)
  • 16비트 BF16, 8비트 FP8, 4비트 W4A4 세 가지 양자화 수준을 Hugging Face에 공개

H100 2장은 주류 대규모 모델에 필요한 4~8장에 비해 크게 줄어든 수치이며, Cohere는 거의 무손실 양자화를 달성했다고 주장한다. 이는 기업 IT 조달의 핵심 임계값이다.

이전 버전 대비 벤치마크 개선

벤치마크Command A Reasoning (구)Command A+ (신)
τ²-Bench Telecom37%85%
Terminal-Bench Hard Code3%25%
MMMU Pro-63%
MathVista-80.6%
Artificial Analysis Intelligence Index-37

τ²-Bench Telecom이 37%에서 85%로, Terminal-Bench Code가 3%에서 25%로 크게 향상되어 에이전트 태스크를 위한 대규모 아키텍처 변경이 있었음을 시사한다. Artificial Analysis 점수 37은 Llama 4, Qwen 3.5 등 주요 오픈소스 모델과 비슷하지만, H100 2장으로 구동 가능한 점은 이 성능대에서 드물다. 출력 토큰/초는 구버전보다 63% 빠르고, 첫 토큰 지연 시간은 17% 감소하여 엔터프라이즈 에이전트 시나리오에 중요한 지표다.

소버린 AI란?

Cohere 블로그는 Command A+가 'sovereign critical infrastructure'를 위해 구축되었다고 밝혔다. 소버린 AI는 모델 가중치와 데이터를 자체 데이터센터 내에서 완전히 운영하며, 외부 API나 로컬 네트워크 이그레스에 의존하지 않고 제3자 데이터 노출을 방지하는 것을 의미한다. 이러한 고객은 중앙은행, 국방부, 에너지/전력 회사, 대형 보험/연기금, GDPR 규제를 받는 유럽 기업 등이다. 이들에게 AI 도입의 가장 큰 장벽은 데이터 외부 유출이며, OpenAI나 Anthropic의 API가 아무리 저렴해도 방화벽을 넘는 API 호출이 필요하면 거래는 성사되지 않는다. Cohere는 이 세그먼트에 베팅하고 있다. 후지쯔의 Vivek Mahajan 임원은 Cohere 발표에서 다음과 같이 지지했다: "Command A+의 mixture-of-experts 아키텍처와 강력한 에이전트 성능은 혁신적인 소버린 AI 솔루션을 제공하려는 당사의 약속과 잘 부합합니다." 후지쯔는 일본 정부의 주요 IT 공급업체로, 각 부처, 금융기관, 핵심 인프라를 고객으로 두고 있으며, 이번 지지는 일본 정부가 최근 강조하는 AI 국산화 흐름을 반영한다.

네이티브 인용: 기업에게 중요한 세부 사항

Command A+에는 네이티브 인용 기능이 포함되어 있다. 모델이 외부 도구나 데이터베이스에서 정보를 검색할 때, 각 문장을 참조하는 특정 문서나 데이터베이스 행에 직접 연결하는 그라운딩 스팬을 자동으로 포함한다. 이는 기업 내부 지식 베이스 Q&A에서 답변의 출처를 검증하는 주요 문제를 해결한다. 기존에는 외부 RAG 시스템으로 수동으로 인용을 바인딩해야 했지만, Cohere는 감사 추적을 네이티브 기능으로 만들었다. 이는 법무, 규정 준수, 감사 부서에서 직접적인 구매 결정 요인이 된다.

경쟁 및 시장 포지셔닝

Command A+는 ChatGPT나 Claude와 소비자 시장에서 경쟁하지 않는다. Cohere는 원래 그 싸움을 하지 않는다. 목표는 Meta의 Llama가 지배하는 엔터프라이즈 오픈소스 시장이다. Llama 4는 오픈소스이지만 일정 규모 이상의 기업에는 별도 라이선스가 필요한 상업적 사용 제한이 있다. Command A+는 Apache 2.0 하에서 규모나 시나리오에 관계없이 자유롭게 상업적 사용이 가능하다. 이 차이는 기업 IT 책임자에게 중요하다. 이 전략의 성공 여부는 Cohere의 다음 ARR 보고서에 달려 있지만, 2026년 5월 20일 현재 오픈소스 AI 테이블에 소버린 AI를 진지하게 추구하는 플레이어가 추가되었다.

출처: CocoLoop, Introducing Command A+ (Cohere 공식 블로그), Cohere cracks lossless quantization and native citations with first full Apache 2.0 licensed open model Command A+ (VentureBeat), Cohere Releases Command A+: An Open-Source Enterprise AI Model Built for Sovereign Critical Infrastructure (Business Wire / Yahoo Finance)