확산 모델 Mercury 3, 초당 1000토큰 돌파

미국 AI 기업 Inception은 10월 19일 확산형 대규모 언어 모델 Mercury 3를 공개했다. 회사는 이 모델이 현재 가장 성능이 뛰어난 확산형 LLM이라고 주장한다. 모델은 이미 Inception 자체 API 플랫폼에서 이용할 수 있고, OpenRouter, Baseten, Vercel에도 연동됐다.

회사가 내놓은 주요 수치는 다음과 같다. 엔비디아 GPU에서의 생성 속도는 초당 1068토큰이다. 컨텍스트 윈도는 100만 토큰으로, 이전 버전인 Mercury 2.5는 26만 토큰이었다. 전체 파라미터 수는 초기 모델 Mercury 1의 40배 이상이지만, 구체적인 수치는 공개하지 않았다.

속도와 가격

Inception은 Mercury 3가 여러 벤치마크에서 OpenAI의 GPT-6 Luna와 Anthropic의 Claude Haiku 5.5를 앞서고, 속도는 이들 비교 모델의 4~8배라고 밝혔다. 다만 블로그에는 항목별 점수가 나와 있지 않다. 표준 벤치마크에서의 지능 수준이 Mercury 1(mini)보다 약 3배 향상됐다고만 설명했고, 외부 기관의 독립 평가는 아직 나오지 않았다.

구체적인 수치가 제시된 테스트는 두 가지다. 하나는 브라우저 에이전트다. 실제 웹 페이지를 탐색하는 Mind2Web 과제 50건 가운데 Mercury 3는 절반을 완료했으며, 회사는 이를 “GPT-6.1-Sol보다 훨씬 많다”고 밝혔다. 다른 하나는 파트너사 Octen AI의 Sense API다. 생성에 Mercury 3를 쓴 결과 생성 시간 중앙값은 0.9초, 엔드투엔드 응답 시간 중앙값은 2.2초였고, 이 중 Octen 자체 검색이 차지하는 시간은 약 80밀리초에 불과했다.

가격은 100만 토큰당 입력 0.20달러, 출력 0.70달러다. 출시 기간에는 50% 할인된 0.10달러와 0.35달러가 적용되고, 캐시에 적중한 입력에는 별도 할인이 있다. API 플랫폼은 신규 사용자에게 무료 토큰 1억 개를 제공한다.

Inception은 블로그에서 이번 출시의 의미를 스케일링에 두었다.

“자기회귀 모델의 발전을 이끈 스케일링 법칙은 확산 모델에도 똑같이 적용된다.” (원문: “The scaling laws that drove progress in autoregressive models hold for diffusion too.”)

올해 확산 노선을 걷는 곳들

주류 대형 모델은 자기회귀 방식으로 글을 쓴다. 토큰을 하나씩 순서대로 내놓기 때문에 뒤의 토큰은 앞의 토큰을 기다려야 한다. 확산 모델은 이미지 생성의 발상을 빌려 와, 먼저 문단 전체의 거친 초안을 한꺼번에 깔고 여러 차례 노이즈를 제거하며 고쳐 나간다. 여러 위치를 동시에 갱신할 수 있다는 점이 속도 이점의 근원이다.

올해 이 노선은 눈에 띄게 달아올랐다. 5월에는 엔비디아 Nemotron Labs가 3B, 8B, 14B 세 가지 규모의 Nemotron-Labs-Diffusion을 공개했다. 하나의 모델이 자기회귀와 여러 확산 디코딩 방식 사이를 오갈 수 있다. 6월에는 Google이 DiffusionGemma를 오픈소스로 내놓았는데, 한 번에 256개 토큰을 병렬로 생성한다. 올해 ICML에서도 대상은 확산 방향 논문에 돌아갔다.

나란히 놓고 보면 각사의 방향은 조금씩 다르다. 엔비디아와 Google이 공개한 것은 중소 규모의 오픈 모델로, 연구와 온디바이스 쪽에 무게가 실려 있다. Inception은 줄곧 비공개 상용 API 노선을 택해 속도와 가격으로 지연 시간에 민감한 분야를 노린다. 코드 자동 완성, 음성 비서, 모델을 수십 번 연속 호출해야 하는 에이전트 워크플로 등이 그렇다. Mercury 3는 파라미터 수와 컨텍스트를 함께 끌어올렸는데, 확산 모델도 커지면 능력이 따라온다는 것, 즉 “빠르지만 멍청한” 모델이 아님을 증명하려는 시도다.

증명 여부는 두 가지에 달려 있다. 독립 리더보드에서의 점수, 그리고 이 모델을 실서비스에 붙인 플랫폼들이 몇 달 뒤에도 계속 쓰는지다. 공식 블로그에서 인용한 고객 수치는 Octen 한 곳의 것이어서 표본이 아직 너무 적다.

이전 세대인 Mercury 2는 며칠 전 미국 타임지가 선정한 2026년 최고의 발명품에 이름을 올렸다. 앞서 공개 보도에서는 마이크로소프트와 SpaceX가 모두 Inception과 접촉하고 있다고 전해졌다. 관련 거래의 진행 상황에 관해서는 현재 새로 공개된 정보가 없다.

참고 출처: Inception 공식 블로그(속도, 컨텍스트, Mind2Web 완료율, API 표준 가격, 출시 기간 할인가 확인), OpenRouter 모델 페이지, CocoLoop, Google과 엔비디아의 확산 모델 기술 자료.