混元Hy4がOSS化、盲検でGLM・Kimiに僅差勝利

テンセントは8月28日、Hunyuan Hy4 previewを発表し、オープンソース化した。総パラメータ数は770B、1トークンあたりのアクティベーションは49B、ネイティブのコンテキストウィンドウは1,048,576トークンに達する。モデルの重みはApache 2.0ライセンスの下でHugging Face、ModelScope、GitCodeなどのプラットフォームに公開され、同時にTencent CloudのTokenHub、OpenRouter、さらにテンセント自社のWorkBuddy/CodeBuddy、元宝(Yuanbao)、imaでも利用可能になった。テンセントはこれを「Hy4イテレーションの初期バージョンの一つ」と位置づけ、公式には「オープンソースモデルの第一集団に確実に位置する」としている。

モデルカードによれば、Hy4 previewは典型的な高スパースMoE構成だ。78層のうち稠密なFFN層はわずか1層で、残り77層はエキスパートルーティングを行う。各層には256の経路エキスパートと1つの共有エキスパートが配置され、各トークンは8つの経路エキスパートを選択する。隠れ層の幅は6144、語彙数は120832。アテンション部分ではIndexCacheを備えたゲート付きスパースアテンションを採用し、クエリを2048次元、キー・バリューを512次元まで圧縮し、4本のiHC残差ストリームと組み合わせている。デプロイ面ではvLLMとSGLangをサポートし、MTP投機的デコードがデフォルトで有効になっている。

活性化率6.4%の裏にある計算コストの帳簿

49Bを770Bで割ると、活性化率は約6.4%になる。この数字はモデルの価格設定を理解する入り口だ——総パラメータ数はVRAMとロードコストを決定し、活性化パラメータ数は1トークンあたりの実際の計算量を決定する。テンセントは両者の差を15倍以上に広げ、その結果として決して高くない価格表を実現した。入力は100万トークンあたり6元(約0.834ドル)、出力は18元(約2.501ドル)、キャッシュヒット時は0.3元だ。

この価格帯は中国のオープンソース陣営の中では中堅クラスに位置する。同じ週に発表されたGLM-5.3-Flashは入力価格が100万トークンあたり0.075ドルまで下がっており、Hy4 previewの11分の1だが、これはアクティベーション18Bの軽量クラスだ。Hy4 previewが照準を合わせているのは、ファイルをまたいでコードを読み、ドキュメントをまたいで分析するような重い作業であり、両者は同じ土俵にいない。単純な価格比較にはあまり意味がない。

本当のコスト変数は100万トークンのコンテキストに隠れている。100万トークンの入力を一度満たすと、定価ベースでおおよそ6元、キャッシュヒット後は0.3元まで下がる——キャッシュ価格は定価のわずか20分の1だ。この割引幅は、開発者に対して「長いコンテキストを常駐のワークスペースとして扱い、毎回送り直すな」というメッセージにほぼ等しい。

その0.07ポイント差をどう読むか

テンセントが示したブラインドテストの結果はこうだ。社内の専門家163人が203件のエンジニアリングタスクを評価し、Hy4 previewは平均2.99点(満点4点)、GLM-5.3は2.92点、Kimi K3は2.94点だった。

点差はわずかだが、勝敗の分布のほうが情報量が多い。GLM-5.3に対してHy4 previewは勝率46.8%、引き分け12.8%、負け40.4%。Kimi K3に対しては勝率51.2%、引き分け7.9%、負け40.9%。どちらの対戦でも敗率はおおよそ4割前後で、つまり個々のタスクの半数近くで相手のほうが優れていたということだ。3つのモデルは偉差でひしめき合っており、誰も抜け出せていない。

省略できない留保条件が2つある。審査員はテンセント社内の専門家であり、タスクセットもテンセントが選定したもので、この種の自主開催のブラインド評価には本質的にホーム有利が働く。また203件というサンプル数で、0.05~0.07点という差は統計的な意味合いがかなり限定的だ。

公開ベンチマークの数字はより横並びで比較しやすい。SWE-bench Multilingualは82.9、SWE-bench Proは65.7、Terminal-Bench 2.1は85.4、GPQA Diamondは92.3、ツール使用ありのHLEは55.4。SWE-bench Proは各社が最も点を落としやすい項目であり続けており、65.7は現行のオープンソースモデルの中でトップクラスに位置する。

長期タスクへの賢け

テンセントはこのモデルの主戦場をはっきりと語っている。長期にわたるソフトウェアエンジニアリング、ファイルをまたいだオフィス分析、ゲーム開発、そして科学研究だ。モデルはhighとno_thinkという2つの推論モードを提供し、前者は長い思考連鎖を要する場面向け、後者はトークンを節約するためのものだ。

公式が示す一例が三次元Blaschke–Lebesgue問題だ。モデルは体積の下界を0.380799から0.41104まで押し上げた。Meissner四面体予想の0.41986にはまだ約2%届かない。この種の例の説得力には限りがあり、選び抜かれたショーケースであることは間違いないが、方向性ははっきりしている。テンセントはHy4 previewをチャット画面の中にとどめず、研究のワークフローに組み込みたいと考えている。

中国国内の開発者にとって、実質的な影響は選択肢がもう一つ増えたということだ。GLM-5.3、Kimi K3、DeepSeek-V4-Proはすでにオープンソースの長コンテキスト市場を埋め尽くしているが、Hy4 previewはApache 2.0という緩やかなライセンスとTencent Cloudの既製の推論サービスを武器に割って入ってきた。ライセンスの点は特に重要だ。国産オープンソースモデルの少なからぬ数が商用制限条項を付けているのに対し、Apache 2.0は企業がそのまま改変・デプロイ・販売でき、個別にライセンス交渉をする必要がないことを意味する。

プレビュー版はあくまでプレビュー版だ。テンセントは正式版Hy4のスケジュールを示しておらず、プレビュー版と正式版がどれほど異なるかについても言及していない。

参考資料: テンセント混元技術ブログ、Hugging Faceモデルカード、IT之家、CocoLoop、DataLearner。モデルパラメータ、ブラインドテストの基準、API価格は公式モデルカードおよび価格ページに基づいて検証済み。価格換算は定価ベースの概算。