중국정보통신연구원(CAICT) 인공지능연구소 등은 10월 23일 「대형 모델 토큰 서비스 성능 모니터링 보고서(2026년)」를 발표했다. 가장 주목받는 수치는 가격이다. 중국 내 대형 모델 서비스의 정규화 평균 가격은 2025년 하반기 6.8위안에서 2026년 들어 13.46위안으로 올라 상승폭이 거의 두 배에 이른다.
보고서는 CAICT 인공지능연구소, 공업정보화부 인공지능 대형 모델 및 소프트웨어·하드웨어 평가 핵심 실험실, 중국 인공지능산업발전연맹이 공동으로 발표했다. 데이터는 2026년 1월부터 8월까지의 모니터링 결과이며, 호출 성공률, 처리량, 첫 토큰 지연, 안정성, 가격, 컨텍스트 윈도를 평가 항목으로 삼았다.
가격, 속도, 지연 세 가지 지표
먼저 가격이다. 보고서는 2년간의 가격 전쟁을 거치며 2026년에는 국내외 모두 가격이 뚜렷하게 올랐다고 밝혔다. 2026년 들어 해외에서 출시된 대표 모델의 평균 정규화 가격은 약 117.8위안으로 중국보다 훨씬 높다.
속도를 보자. 중국 모델들의 8월 평균 TPS(초당 출력 토큰 수)는 78.23개로, 2025년 평균 38.25개의 거의 두 배다. 해외 대표 모델의 8월 TPS 평균은 112.82개로 지난해 12월의 51.35개에서 역시 두 배 넘게 늘었지만, 중국은 전반적으로 아직 한 걸음 뒤처져 있다.
지연은 반대로 길어졌다. 중국의 8월 평균 첫 토큰 지연(TTFT)은 1.26초로, 2025년 평균 0.78초보다 늘었다. 해외 대표 모델은 8월에 2.08초였고 4월에는 1.04초에 그쳤다. 보고서의 설명은 다음과 같다.
"TTFT 상승은 단순한 성능 저하가 아니다"
보고서는 모델 파라미터 규모 확대, 컨텍스트 길이 증가, 호출량 상승이 겹친 결과로 본다. 컨텍스트 변화는 뚜렷하다. 모니터링 대상 모델 가운데 100만 토큰 컨텍스트 모델이 47.8%, 200K 이상은 합계 95.7%로, 2025년 말보다 76%포인트 넘게 높다.
대략 계산해 보면
몇 가지 수치를 나란히 놓으면 대략적인 비율이 나온다.
- 가격: 13.46 ÷ 6.8 ≈ 1.98배. 해외 평균 가격은 중국의 약 117.8 ÷ 13.46 ≈ 8.8배.
- 속도: 중국 TPS는 약 2.05배 늘어 가격 상승폭과 거의 같다.
- 지연: 중국의 첫 토큰 지연은 약 0.48초 늘었고 증가율은 60% 안팎이다.
'1위안당 얻는 출력 속도'로 거칠게 어림하면 중국은 올해와 지난해가 거의 비슷하다. 가격이 두 배가 됐고 처리량도 두 배가 됐기 때문이다. 개발자가 더 낸 돈으로 얻은 것은 주로 더 긴 컨텍스트와 더 큰 모델이며, 요청 한 건에서 첫 글자를 기다리는 시간은 오히려 길어졌다. 이는 보고서가 공개한 평균값으로 우리가 계산한 추정치다. 모델과 시간대에 따라 차이가 매우 커서 특정 업체의 청구서에 그대로 적용할 수는 없다.
중국 업체들의 올해 가격 조정은 이 평균값을 뒷받침한다. Tencent Cloud는 올해 들어 Hunyuan 등 AI 서비스 가격을 여러 차례 올렸다. 언론 보도에 따르면 DeepSeek-V4 API는 8월 17일부터 시간대별 요금제를 적용해 피크 시간대 출력 가격이 기존의 4.5배로 올랐다. 가격 전쟁 기간 바닥까지 내려갔던 요금이 업체마다 차례로 되돌려지고 있다.
같은 모델, 다른 플랫폼
보고서는 오픈소스 모델 4종인 DeepSeek, Qwen, GLM, Kimi를 개발사 플랫폼과 서드파티 플랫폼에서 따로 모니터링했다. 같은 모델이라도 플랫폼에 따라 TPS가 최대 두 배 가까이 차이 나며, 일부 서드파티 플랫폼은 공식보다 빠르다는 결론이다. 보고서는 업체별 추론 가속, 최적화 전략, 비용 관리 방식의 차이가 성능 격차의 주된 원인이라고 본다.
개별 모델을 보면 8월 DeepSeek-V4-Pro의 TPS는 DeepSeek-V3.2의 2배에 이르렀다. 5월 주요 모델이 세대교체된 뒤 첫 토큰 지연은 대체로 한동안 올랐다가, 추론 최적화가 적용되면서 세대교체 이전 수준으로 서서히 내려왔다.
사용량 증가는 업체들이 가격을 올릴 수 있는 이유를 설명해 준다. 보고서에 따르면 2026년 6월 중국의 일평균 토큰 소비량은 약 500조 개로, 2025년 12월의 4배 가까이 된다.
독자가 유의할 점이 두 가지 있다. 공개된 요약에는 '정규화 가격'의 구체적인 산정 방식과 과금 단위가 설명돼 있지 않아, 6.8위안, 13.46위안, 117.8위안은 같은 기준 안에서만 비교할 수 있고 특정 업체의 공식 가격과 직접 대조하는 것은 적절하지 않다. 또한 모니터링 대상 모델과 플랫폼 목록도 요약에는 나와 있지 않으므로, 자세한 내용은 보고서 전문을 따라야 한다.
참고 출처: 중국정보통신연구원, CocoLoop, 제몐신문, IT즈자, 21세기경제보도. 정규화 평균 가격, TPS, 첫 토큰 지연, 컨텍스트 비중 각 수치와 집계 기간을 대조했다.