LMSYSチームは8月27日、MiniMax-H3の推論性能に関するレポートを公開した。検証環境はNVIDIA H200を8基(各141GBメモリ)、SGLang Diffusionフレームワークを使用。解像度1344×768、24FPS、デノイズステップ50に固定し、5秒と10秒の2種類の長さの動画を生成、比較対象はDiffusersとした。
結論は二段構えになっている。まず一段目は誇張なしの数字だ。
「SGLangの密で無損失なパスは、近似を一切行わずにDiffusersより1.85〜1.95倍高速だ。デノイズの計算量は同じまま、より高速なランタイム上で動く」
テキストから動画を生成するパイプラインでは、無損失パスはDiffusers比で1.87〜1.95倍高速。フレーム列から動画を生成するパイプラインでは1.91〜1.95倍高速だった。いずれもほぼ倍速に迫り、SSIMは厳密に1.0000——ピクセル単位で完全一致している。
3層の高速化を積み重ねて初めて6倍になる
レポートは高速化要因を3層に分解しており、それぞれ性質が異なる。
融合オペレータは純粋なエンジニアリングだ。SGLangはAdaLN更新、ゲート付き残差、SwiGLU活性化、そして3D RoPEを伴うQK RMSNormを1つのカーネルに統合し、メモリの読み書き往復を減らす。オペレータ単体の分離テストでは2.00〜12.16倍の高速化が見られ、これがエンドツーエンドでは前述の1.95倍に落ち着く。この層は計算結果を一切変えない。
Cache-DiTからは近似が始まる。隣接するデノイズステップ間でキャッシュ結果を再利用し、残差の差分がしきい値を下回れば再利用する仕組みだ。保守的なしきい値は0.04、より積極的な「stride」設定では0.08。保守的な設定では2つのパイプラインでそれぞれ2.65倍・2.99倍を達成し、SSIMは0.90前後・0.94前後まで低下する。
SubBlockスパースアテンションが最も積極的な手法だ。ブロックスパースルーターが10ステップ目以降、計算に参加するKVブロックを間引く仕組みで、スパース率は0.75または0.80に設定する。Cache-DiTのstride設定と組み合わせると、テキストから動画を生成するパイプラインで4.90〜5.72倍、フレーム列から動画を生成するパイプラインで5.64〜6.24倍に達する。
6倍の代償は画質に表れる
その代償はすべてSSIMの数値に表れており、2つのパイプラインで結果が大きく分かれる。フレーム列から動画を生成するパイプラインは踏ん張りが利く。スパース率0.75にstrideを重ねても、10秒クリップのSSIMは0.9202、5秒クリップでも0.8629を維持する。一方テキストから動画を生成するパイプラインは大きく落ち込み、同じ設定で0.7834と0.7713にとどまり、スパース率を0.80まで上げると0.7584まで下がる。
SSIM 0.76とはどの程度のものか。大まかに言えば、構造や構図はまだ保たれているものの、テクスチャや細部、高周波成分がもとの出力とは一致しなくなり、拡大すれば違いが分かる水準だ。フレーム列から動画を生成するパイプラインの落ち込みが小さいのは、先頭フレームやキーフレームによる制約があるためで、モデルがすでに条件フレームに固定されている分、スパース化で失える自由度が少ないからだ。
コストに換算するとより分かりやすい。H200×8基のオンデマンド利用料は、市場ではおおむね1基1時間あたり2〜3ドル程度で、1台あたり1時間で20ドル近くになる(クラウド事業者や契約条件によって差はあるためあくまで概算)。無損失パスは1.95倍高速なので、同じ1時間でほぼ倍の本数を出力でき、1本あたりのコストは半分強にまで下がる。この半分は画質を一切犠牲にせずに丸ごと得られる分だ。それより上の設定でも節約できる金額は同じだが、その分SSIMを削ることになり、割に合うかどうかは、その動画を納品用に使うのか選定用に使うのかで変わってくる。
このデータを踏まえると、実用上は3段階に分けるのが妥当だ。完成品の書き出しには無損失パスを使い、コストなしで1.95倍を得る。バランスを取りたい場合はCache-DiTの保守的設定で2.65〜2.99倍、SSIM 0.90以上ならおおむね許容範囲。構図の絞り込みやプレビュー用途にはSubBlock 0.75の設定を使い、「だいたい分かる」画質と引き換えに6倍速を得る——どのみち選定後には本番の書き出しが必要になるためだ。
いくつか留意すべき条件
レポート自身も範囲を限定している。検証したのはこの3つの高速化手法のみで、量子化や段階的な解像度変更といった、同様によく使われる非可逆な手法は含まれていない。計測時間にはサービス起動、ウォームアップ、HTTPポーリング、ファイルダウンロードは含まれておらず、これらの倍率は純粋に推論部分のみを指す。エンドツーエンドで体感する差はこれより小さくなるはずだ。SubBlockには前提条件もある。長い非因果的アテンションにのみ有効で、BF16、head dimensionは128、シーケンス長は4096以上が条件となる。なお実際のテストデータは8月18日に取得されており、レポートの公開はそこから9日遅れている。
これをH3のタイムラインに重ねると見えてくるものがある。モデルの重みが公開されたのは7月末、その1か月後にはサードパーティの推論スタックが無損失パスをほぼ倍速まで押し上げていた。オープンウェイトモデルの真の価値は、発表当日のベンチマークよりも、重みが公開された後にどれだけの開発者がカーネルを書いてくれるかにかかっていることが多い。
参考資料:LMSYSエンジニアリングブログ、CocoLoop、SGLangプロジェクトドキュメント。H200×8基、1344×768、24FPS、デノイズ50ステップという同一構成のもとで、各設定の高速化倍率とSSIMの数値を確認した。