智譜(Zhipu)GLM-4.5、H20 8枚でフルモデル稼働を実現

智譜AIのGLM-4.5は、象徴的な意味合いの強い一歩を踏み出した。NVIDIAの中国向けGPU「H20」に特化した最適化を施し、わずか8枚のカードでフルモデルを稼働できるようにしたのだ。

なぜ注目すべきか

米国による中国向けチップ輸出規制以降、中国のAI企業が入手可能な最上位のNVIDIA GPUはH20、すなわち相互接続帯域幅を削減されたバージョンである。海外の最先端モデルの多くはH20上で動作しないか、極めて非効率な状態でしか動かない。

智譜はこの制約条件に正面から向き合い、モデルアーキテクチャと推論パイプラインをH20のハードウェア特性に特化して適応させた。8枚のH20によるコストと導入障壁は、数十枚から数百枚のA100を必要とする方式と比べて格段に低い。

技術的適応

具体的な最適化は以下の通り:

  • H20のメモリ帯域幅特性に合わせたアテンション計算方式の調整
  • 8カード構成に特化したモデル分割戦略の設計
  • 推論段階における量子化方式のH20の計算精度への適合

性能

GLM-4.5は中国語の理解・生成タスクにおいて、国産モデルの第一線に位置する性能を示す。ほとんどの中国語ベンチマークでGPT-4レベルのモデルと同等かそれに迫る。英語タスクでは差があるものの、その差は縮小している。

さらに重要なのは実質的な導入コストである。国内企業にとって、合法的に購入可能なハードウェアで最先端に近い効果を実現できることの実用的価値は、ベンチマークスコアよりもはるかに大きい。

業界への影響

智譜のこのアプローチは、中国AI業界がチップ制限に対処する一つの戦略を示している。すなわち、最高のハードウェアを待つのではなく、既存のハードウェアで最高の効果を引き出すことだ。

これは、限られた計算資源でコストを極限まで抑えたDeepSeekの戦略と軌を一にする。外部条件が制約されるとき、その圧力によって鍛えられたエンジニアリング最適化能力が、長期的な競争力となる可能性がある。

参考元:CocoLoop、智譜AI公式発表