Hugging Face는 11월 16일, Inference Providers의 언어 모델 요청을 이날부터 OpenRouter가 라우팅한다고 발표했다. Hugging Face가 직접 만든 라우터는 더 이상 쓰지 않는다. 사용자 코드는 바꿀 필요가 없고, 요금도 계속 Hugging Face 청구서에 합산된다. 이미지, 영상, 오디오 생성은 영향이 없으며 지금처럼 각 추론 제공사에 직접 연결된다.
OpenRouter는 실시간 가격, 속도, 안정성을 보고 호출마다 추론 제공사를 고른다. 공식 블로그가 밝힌 가격 원칙은 제공사 원가 그대로 청구하며 Hugging Face는 가산하지 않는다는 것이다.
무엇이 달라졌나
가장 직접적인 변화는 장애 전환이다. 예전에는 어떤 제공사에서 오류가 나면 사용자가 그 제공사의 오류를 그대로 받았다. 이제는 요청이 자동으로 다른 제공사에서 재시도된다.
모델 ID 뒤에 붙이는 라우팅 접미사는 그대로 쓸 수 있다. GLM-5.3을 예로 들면, 접미사가 없으면 기본값인 종합 최적, :fastest는 처리량이 가장 높은 곳, :cheapest는 가장 싼 곳을 고르고, :novita 같은 형태는 특정 제공사 하나로 고정한다.
라우팅은 프롬프트 캐시도 고려한다. 사용자가 요청 헤더 X-HF-Session-Id에 대화마다 고정된 UUID를 실어 보내면, 같은 대화는 그 캐시를 가진 제공사로 계속 전달된다. 사용자와 조직은 설정에서 일부 제공사를 끌 수도 있으며, 라우터는 그쪽으로 요청을 보내지 않는다.
인터페이스 측면에서는 모든 채팅 모델을 OpenAI의 Chat Completions·Responses 인터페이스와 Anthropic의 Messages 인터페이스로 호출할 수 있다. 뒤에 어떤 제공사가 있든 상관없다. 모델 페이지에는 Providers와 Metrics 탭이 새로 생겨, 제공사별 가격, 속도, 24시간 가용률을 보여 준다.
호환되지 않는 변경이 하나 있다. 언어 모델에는 사용자가 특정 제공사에서 발급받은 자체 API 키를 더 이상 쓸 수 없고, 모든 요청은 Hugging Face 계정이나 조직에 청구된다. 이미지·영상 제공사의 사용자 지정 키는 계속 사용할 수 있다.

비용을 따져 보면
Hugging Face는 블로그에서 평균 가격을 제시했다. 오픈 웨이트 모델은 입력 100만 토큰당 평균 0.28달러, 출력은 1.62달러다. 클로즈드 모델은 각각 1.27달러와 6.36달러다. 단순 계산하면 클로즈드 모델은 입력이 약 4.5배, 출력이 약 3.9배 비싸다.
무료 크레딧도 보자. PRO 사용자는 월 2달러, Team과 Enterprise 조직은 좌석당 월 2달러다. 오픈 모델의 평균 출력 가격으로 어림하면 2달러는 출력 토큰 약 120만 개에 해당한다. 전부 클로즈드 모델에 쓰면 30만 개 안팎에 그친다. 이 정도는 체험이나 작은 실험용이고, 실제 운영에는 별도로 결제해야 한다.
“가산 없음”으로 사용자가 아끼는 것은 중간 유통 단계이며, 전제는 제공사 원가 자체가 적정하다는 점이다. 자체 키가 막히면서, 특정 제공사와 할인을 협상했거나 선불 한도를 가진 팀은 Hugging Face를 거쳐 호출할 때 그 조건을 쓸 수 없고, 제공사 자체 인터페이스로 돌아가야 한다.
OpenRouter의 위치
Hugging Face 블로그가 인용한 수치에 따르면 OpenRouter는 월 800조 토큰 넘게 처리하고, 사용자는 1000만 명을 넘으며, 80여 개 이상 제공사의 600여 개 이상 모델을 연결한다. OpenRouter가 자체 측정한 바로는 라우팅을 다시 쓴 뒤 용량 부족 계열 오류가 46% 줄고, 첫 토큰 지연은 16.9% 개선, 처리량은 16.3% 늘었다. 모두 OpenRouter 단독 데이터로, 제3자 검증은 없다.
OpenRouter는 올해 8월 Stripe에 합류한다고 발표했다. Hugging Face는 세계 최대의 오픈 모델 호스팅 플랫폼이다. 언어 모델 추론의 입구를 결제 회사 산하의 라우팅 서비스에 맡기면서, 허브에 있는 오픈 모델의 호출량도 이제 OpenRouter의 장부를 거치게 됐다.
블로그가 밝힌 후속 계획은 두 가지다. OpenRouter 계정을 Hugging Face에 연결하는 기능을 지원하는 것과, 더 많은 종류의 작업을 OpenRouter 라우팅으로 처리하는 것이다. 둘 다 시점은 제시되지 않았다.
참고 출처: CocoLoop, Hugging Face 공식 블로그, OpenRouter 공개 자료. 오픈·클로즈드 모델 평균 가격과 무료 크레딧은 Hugging Face 블로그 기준이며, 라우팅 성능 수치는 OpenRouter 자체 측정치다.