중국중앙TV(CCTV)가 오늘 보도한 내용에 따르면, 올해 6월 기준 중국의 일평균 토큰 호출량이 500조 건을 넘어섰다. 같은 기준의 수치가 3개월 전에도 공식 발표된 바 있는데, 당시는 140조 건이었다.
흐름을 거슬러 올라가 보면 더 명확해진다. 'Token'이 중국어로 '词元'이라는 정식 용어로 명명된 것은 올해 3월이었고, 당시 함께 발표된 데이터는 일평균 호출량 140조 건 초과, 2024년 초 1000억 건 대비 1000배 이상, 2025년 말 100조 건 대비 40% 증가한 수치였다. 이 속도로 추산하면 2분기 3개월간 증가폭은 직전 분기의 여러 배—대략 3.6배에 달해, 2분기에 곡선이 뚜렷하게 꺾인 셈이다.
곡선이 꺾인 지점은 추론 쪽
CCTV财经(파이낸셜)의 설명에 따르면 경쟁의 초점은 단순한 '모델 지능'에서 에이전트 구현과 생태계 구축으로 옮겨가고 있다. 이 변화는 컴퓨팅 비용에 매우 구체적인 의미를 갖는다. 챗봇형 호출은 한 번 묻고 답하는 방식으로 수백에서 수천 토큰이면 끝나지만, 에이전트가 하나의 작업을 맡으면 검색, 컨텍스트 읽기, 툴 호출, 다회차 피드백을 반복하기 때문에 같은 작업이라도 토큰 소모량이 한두 자릿수 차이가 날 수 있다.
텐센트 스마트산업 총괄 리우펑(刘峰)은 보도에서 바로 비교 가능한 수치를 제시했다. 훈위안(混元) 3 정식 버전이 출시 첫 주에 이전 세대인 훈위안 2 대비 토큰 호출량이 68배 증가했다는 것이다. 세대 교체 한 번으로 거의 70배에 가까운 호출량 도약이 일어난 것은 '사용자가 늘었다'는 설명만으로는 부족한 규모이며, 작업 하나당 소모 구조 자체가 바뀌었다고 보는 편이 더 설득력 있다.
이는 각 업체가 학습용 칩뿐 아니라 추론 클러스터 확장에도 힘을 쏟는 이유를 설명해준다. 학습은 한 번의 투자로 모델이 완성되면 상각되지만, 추론은 쓸수록 비용이 늘어나는 지속적 지출이며, 에이전트는 바로 '많이 쓰는 것'을 기본값으로 만드는 유형의 제품이다.
모델 출시 주기, 4~6주로 단축
稀宇科技(StepFun) 오픈 플랫폼의 수석 아키텍트 펑원(冯雯)은 한 가지 변화를 언급했다. 2025년 하반기까지만 해도 업체들의 목표는 3개월에 한 번 모델을 업데이트하는 것이었지만, 지금은 4~6주마다 새 모델을 내놓아야 한다는 것이다.
이런 변화는 컴퓨팅 자원을 양쪽에서 동시에 압박한다. 학습 쪽에서는 일정이 빡빡해져 클러스터가 숨 돌릴 틈도 없이 다음 라운드에 들어가야 한다. 추론 쪽에서는 여전히 서비스 중인 여러 버전을 동시에 지원해야 한다—새 모델이 나온다고 구버전이 바로 내려가는 게 아니라, API상의 구버전은 보통 몇 달 더 유지되기 때문에 병렬 지원을 전제로 서비스 역량을 준비해야 한다.
출시 속도가 빨라지면서 부수 효과도 생겼다. 모델 하나가 학습 비용을 상각할 수 있는 기간이 짧아진 것이다. 국산 모델들은 올해 들어 잇달아 가격을 내렸는데, 이 가격 경쟁은 상각 기간이 좁아진 것과 무관하지 않다—현역 기간 동안 사용량을 최대한 끌어올리는 편이 천천히 비싸게 파는 것보다 유리하다는 계산이다.
AI 데이터센터, 장기 계약 따라 늘어나
위엔징 과기그룹(远景科技集团, Envision Group) AI 컴퓨팅센터 총괄 정쯔하오(郑子浩)는 AI 데이터센터 건설을 '폭발적 성장'이라고 표현하며, 그 이유로 고객사의 장기적이고 안정적인 발주 약속을 꼽았다.
'장기 안정 발주'라는 이 다섯 글자가 핵심이다. 데이터센터는 자산 집약적 설비로, 부지 확보부터 가동까지 1~2년이 걸리며, 투자자가 가장 두려워하는 건 완공 후 유휴 상태가 되는 것이다. 장기 계약이 뒷받침되면 건설 측은 만부하를 전제로 설계할 수 있게 되고—전력 공급, 수랭, 랙 밀도까지 처음부터 제대로 갖출 수 있다. 여러 지역에서 추진 중인 국산 '토큰 공장'과 AI 컴퓨팅 복합단지도 같은 논리를 따른다. 먼저 수요를 확보하고 그다음 생산능력을 올려, 국산 컴퓨팅 공급망을 제품 검증 단계에서 대량 납품 단계로 끌어올리겠다는 것이다.
숫자 너머로 아직 부족한 것
500조라는 숫자에는 아직 가로 비교 기준이 없다. 같은 기준의 글로벌 수치는 공개된 경로로는 확인할 수 없어, '1군(第一梯队)'이라는 표현은 현재로선 정성적 판단에 머물 뿐 비율로 뒷받침되지는 않는다.
500조를 인구수로 단순히 나누면, 14억 인구 기준 1인당 하루 평균은 대략 35만 토큰 정도다(개략 계산). 이 숫자 자체는 실질적 의미가 크지 않다—호출의 대부분은 기업 시스템과 백엔드 에이전트에서 발생하며 개인의 입력량과는 무관하기 때문이다. 이 수치의 진짜 쓸모는 하나를 상기시켜준다는 데 있다. 토큰은 이제 기술 지표에서 산업 지표로 바뀌었다는 것. 앞으로 반복적으로 비교될 대상은 1조 토큰당 전기요금, GPU 가동시간, 그리고 그것이 만들어내는 매출이 될 것이다.
참고 출처: CCTV财经, IT之家, CocoLoop, 국가데이터국 공개 발표; 호출량 수치는 지난 공식 발표 기준과 항목별로 대조했으며, 1인당 수치는 편집자의 개략 계산입니다.