Cloudflare는 10월 9일 '결정 모델' 시리즈에 음성과 전체 영상 입력을 더한 Clef-omni를 공개했다. 가중치는 Hugging Face에 올라와 있고 라이선스는 Apache 2.0이며, 호스팅 버전은 Workers AI에서 돌아간다. Clef와 Clef-flash가 처음 나온 지 불과 8일 만이다.
결정 모델이 하는 일은 의도적으로 좁다. 호출하는 쪽이 상태와 미리 정한 질문 묶음을 넘기고, 각 질문에는 몇 개의 선택지가 붙는다. 모델은 선택지마다 확률을 매길 뿐 자유 형식 텍스트를 생성하지 않으며, 출력을 따로 파싱할 필요도 없다. Cloudflare가 든 내부 활용 사례는 GitHub 문서 저장소에서 스팸 이슈를 가려내 닫는 일, 플러그인 저장소에서 피싱을 걸러내는 일, 데이터에서 주민등록번호 같은 개인정보를 찾아내는 일, 악성 도메인을 판별하는 일 등이다.
한 번 호출에 네 가지 입력
이전 Clef는 텍스트, 이미지, 영상에서 뽑은 프레임을 처리했다. Clef-omni는 WAV와 MP3 음성, MP4와 WebM 영상을 그대로 받아 음성 트랙과 화면을 동기화해 처리한다. 이번에도 받아쓰기나 설명 생성은 하지 않는다. 프리필을 한 번만 돌려 모든 모달리티와 모든 선택지를 함께 채점한다.
Cloudflare가 공개한 중앙값 지연 시간은 텍스트만 약 130밀리초, 이미지 약 150밀리초, 음성 수백 밀리초, 소리가 있는 21초 영상 약 1.5초다.
기반 모델은 알리바바의 Qwen3-Omni-30B-A3B-Instruct로, 전문가 혼합(MoE) 모델이다. Cloudflare는 이해 담당 부분을 남기고 음성 합성 관련 구성 요소를 덜어냈으며, 백본을 고정한 채 LoRA로 미세 조정하고 작은 Transformer 스코어링 헤드를 붙였다. 모델 카드에 따르면 H200 한 장에서 bfloat16으로 실행되며, 백본에 필요한 GPU 메모리는 약 64GB다.
점수가 전 항목에서 전작을 넘지는 못했다
Cloudflare가 직접 공개한 비교표에서 Clef-omni는 대부분의 항목에서 시각 전용 Clef에 못 미친다. 도구 검색 벤치마크 ToolRet은 66.6 대 69.19, 도구를 언제 호출해야 하는지 보는 When2Call은 63.3 대 72.37, 피싱 식별 PhishNChips는 73.2 대 79.60이다. 격차가 가장 큰 것은 가전 명령 항목으로 69.3 대 82.95였다. 은행 의도 분류 BANKING77과 의도 인식 CLINC150+OOS 두 항목에서는 Clef를 근소하게 앞섰다.
TypeSafe의 결정 모델 Jev와 비교하면 Clef-omni는 When2Call에서 17점 넘게 뒤지고 BANKING77에서는 15점 앞선다. 이 점수들은 모두 Cloudflare가 자체 발표한 것이며, 평가 세부 사항은 블로그에서 다루지 않았다.
같은 날 이뤄진 두 가지 조정
Clef-flash의 호스팅 요금은 입력 100만 토큰당 0.09달러에서 0.038달러로 내려갔고, Cloudflare는 이제 Jev보다 저렴하다고 밝혔다. 대신 호스팅 버전의 컨텍스트 윈도는 64k에서 24k로 줄었다. 24k를 넘는 요청이 0.24%뿐이라는 것이 이유다. Hugging Face의 오픈 가중치는 영향을 받지 않으며 여전히 256k로 학습되었다. Clef의 가격은 그대로이고, Cloudflare가 추론 환경을 SGLang으로 옮기면서 중앙값 지연 시간이 1.7~2.0배 빨라졌다고 한다.
또 하나의 Qwen 기반
사흘 전 마이크로소프트의 Decision-1도 선택형 판단에 특화된 결정 모델로 나왔고, 기반은 Qwen 9B였다. 한 주 사이에 미국 두 회사가 같은 종류의 제품을 잇따라 내놓았고, 둘 다 알리바바의 오픈 모델을 토대로 삼았다. 중국 개발자에게는 Clef 시리즈 가중치를 바로 내려받을 수 있고 라이선스도 느슨하며 API도 Jev와 호환된다고 밝히고 있어, 심사·라우팅·티켓 분류 서비스를 직접 구축하는 문턱이 그리 높지 않다. 다만 Workers AI 호스팅 서비스에 중국 내에서 얼마나 접속되는지는 Cloudflare가 따로 설명하지 않았으므로, 운영 환경에 쓰기 전에 직접 측정해 봐야 한다.
참고 출처: Cloudflare 공식 블로그, Hugging Face 모델 카드(라이선스, 기반 모델, GPU 메모리 요건), CocoLoop, IT Home, RuntimeWire. 벤치마크 점수와 가격은 Cloudflare 자체 발표 기준이다.