Cloudflareは10月9日、「判断モデル」シリーズに音声と動画全体の入力を加えたClef-omniを公開した。重みはHugging Faceで公開されており、ライセンスはApache 2.0、ホスト版はWorkers AI上で動く。ClefとClef-flashの初公開からわずか8日後のことだ。
判断モデルの役割は意図的に絞られている。呼び出し側が状態と事前定義の質問群を渡し、各質問には複数の選択肢が付く。モデルは選択肢ごとに確率を出力するだけで、自由文は生成せず、出力のパース処理も要らない。Cloudflareが挙げる社内での用途は、GitHubのドキュメントリポジトリでスパムのissueを見分けて閉じる、プラグインレジストリでフィッシングを選別する、データ中の身分証番号といった個人情報を検出する、悪意あるドメインを判定する、といったものだ。
1回の呼び出しで4種類の入力を処理
従来のClefが扱えたのはテキスト、画像、動画から切り出したフレームだった。Clef-omniはWAV・MP3の音声とMP4・WebMの動画を直接受け取り、音声トラックと映像を同期させて処理する。文字起こしやキャプション生成は行わず、プリフィルを1回走らせるだけで、すべてのモダリティとすべての選択肢をまとめて採点する。
Cloudflareが公表する中央値のレイテンシは、テキストのみで約130ミリ秒、画像で約150ミリ秒、音声で数百ミリ秒、音声付き21秒の動画で約1.5秒。
ベースはアリババのQwen3-Omni-30B-A3B-Instructで、混合エキスパート(MoE)モデルだ。Cloudflareは理解を担う部分を残して音声合成関連のコンポーネントを外し、バックボーンを凍結したうえでLoRAでファインチューニングし、小型のTransformer製スコアリングヘッドを追加した。モデルカードによると、H200 1枚でbfloat16により動作し、バックボーンには約64GBのGPUメモリが必要という。
スコアは前世代を全面的には上回らない
Cloudflare自身の比較表では、Clef-omniは多くの項目で視覚専用のClefに及ばない。ツール検索のToolRetは66.6対69.19、ツールを呼ぶべき場面の判断を問うWhen2Callは63.3対72.37、フィッシング識別のPhishNChipsは73.2対79.60。差が最も大きいのは家電操作の指示タスクで、69.3対82.95だった。銀行の意図分類BANKING77と意図認識CLINC150+OOSの2項目では、Clefをわずかに上回っている。
TypeSafeの判断モデルJevと比べると、Clef-omniはWhen2Callで17ポイント以上下回り、BANKING77では15ポイント上回る。これらのスコアはいずれもCloudflareの自己申告で、評価の詳細はブログでは説明されていない。
同日の2つの変更
Clef-flashのホスト版価格は、入力100万トークンあたり0.09ドルから0.038ドルに下がった。CloudflareはこれでJevより安くなったとしている。代わりにホスト版のコンテキストウィンドウは64kから24kに縮小された。理由は、24kを超えるリクエストが全体の0.24%にとどまるためだという。Hugging Face上のオープンな重みには影響がなく、引き続き256kで学習されている。Clefの価格は据え置きで、Cloudflareが推論基盤をSGLangに移したことで、中央値のレイテンシは1.7〜2.0倍に高速化したとしている。
またもQwenがベースに
3日前には、MicrosoftのDecision-1も選択式の判断に特化した判断モデルとして登場し、ベースはQwen 9Bだった。この1週間で米国の2社が同種の製品を相次いで投入し、どちらもアリババのオープンモデルを土台に選んだことになる。中国の開発者にとっては、Clefシリーズの重みは自由にダウンロードでき、ライセンスも寛容で、APIはJevとの互換を掲げているため、審査・ルーティング・チケット振り分けのサービスを自前で構築するハードルは高くない。ただしWorkers AIのホスト版に中国国内からどの程度アクセスできるかについて、Cloudflareは特に言及していない。本番利用の前に自分で実測する必要がある。
参考資料:Cloudflare公式ブログ、Hugging Faceモデルカード(ライセンス、ベースモデル、GPUメモリ要件)、CocoLoop、IT Home、RuntimeWire。ベンチマークスコアと価格はCloudflareの自己申告に基づく。