面壁智能(ModelBest)とOpenBMBコミュニティーは10月13日、マルチモーダルモデル「MiniCPM-V 4.7」を正式に公開した。35B-A3Bと1Bの2バージョンを同時に出している。前者はMiniCPM-Vシリーズ初のMoE(Mixture of Experts、混合エキスパート)モデルで、総パラメーター数は約350億、1回の推論で有効になるのは約30億にとどまる。後者はエントリークラスのスマートフォン向けだ。
公式が示すオンデバイスの数値は、35B-A3Bが iPhone 17 Pro Max で約3GBのメモリを使用し、デコード速度は毎秒13トークン以上というもの。コードと重みのライセンスは、GitHubリポジトリのフッター表記によればApache-2.0である。
3GBに35Bを収める鍵は、エキスパートの先読みスケジューリング
MoEモデルの難点は、パラメーター総量は大きいのに、各ステップで使うのはごく一部という点にある。サーバーならすべてをVRAMに載せられるが、スマートフォンでは載り切らない。計算を進めながら必要なエキスパートをストレージから読み込むしかなく、読み込みが遅ければ動作が止まる。
面壁が打ち出した解決策がLES(Lookahead Expert Scheduling、前方参照型エキスパートスケジューリング)だ。GitHubページの説明によると、次の3つを行う。
- 層をまたいでルーティングを予測し、次の層で使われる可能性が高いエキスパートを事前にロードする。
- 現在の層では、すでにメモリ上にあり、かつルーターに選ばれたエキスパートから先に計算する。
- 重みの量子化と再設計したストレージレイアウトを組み合わせ、サイズを減らして読み出しを速める。
公式は、この手法で実機において約5倍の高速化が得られたとしている。もう一つの従来技術も引き継がれており、視覚部分では4倍と16倍を混ぜた圧縮で視覚トークンを減らす。これは5月に公開されたMiniCPM-V 4.6にすでに入っていたものだ。
第三者の開発者は以前、モデルの設定ファイルを調べている。それによると、40層のうち30層が線形アテンション、10層が全アテンションで、256のエキスパートからトークンごとに8つを選択し、コンテキスト長は256K。BF16の重みは合計で約70.4GBになる。つまり3GBは量子化とオンデマンド読み込みを行ったうえでの実行時の使用量であり、量子化せずにそのまま動かそうとすれば、一般的なPCでも厳しい。
ベンチマークは同クラス同士の比較にとどまる
面壁によれば、35B-A3Bは汎用視覚、STEM推論、OCRとグラフ、長尺動画などをカバーする34のベンチマークで評価された。Instructモードの総合スコアは、同じ35B-A3B規模のQwen3.6-35B-A3Bを上回り、推論時間も短い。一部の項目ではQwen 27BやGemma-4 31Bも超えたという。1B版はQwen3.5 0.8Bと比較され、総合スコアも推論効率も優れているとしている。
これらはいずれもメーカーの自己申告である。GitHubページの成績表は画像で、具体的なスコアは報道でも詳しく触れられておらず、現時点で独立した再現結果は確認できていない。
公開の経緯にも小さな一幕があった。第三者の開発者の記録では、35B-A3Bの重みは10月6日夜の時点でHugging Faceに現れていたが、モデルカードもライセンスも評価データもなく、説明が整ったのは10月12日前後だった。
中国の開発者にとっての壁はどこか
今回、面壁は対応リストをかなり長く書いている。システムはiOS、Android、鴻蒙(HarmonyOS)をカバーし、チップはIntel、AMD、Arm、瑞芯微(Rockchip)、後摩智能(Houmo AI)が挙がる。瑞芯微と後摩が並んでいることは、面壁がスマートフォンだけでなく、中国国内のエッジボックス、ロボット、車載といった機器も狙っていることを示している。こうした場面では、クラウドの大規模モデルをネット経由で呼び出せないことが多い。
あわせて、SRFT(Self-Replay Fine-Tuning)というファインチューニング手法もオープンソース化された。公式は、低コストで能力を拡張しつつ、既存の能力の忘却を抑えられると説明している。自社デバイスでカスタマイズしたいチームにとっては、重みだけの公開よりも実用的だ。
ただし、見極めるべき点がいくつかある。
- 毎秒13トークンはiPhone 17 Pro Maxでの測定値だ。iPad Proで毎秒15トークン超に達するとの報道もある。ミドルレンジのAndroid端末や鴻蒙端末での速度は、公式からまだ数字が出ていない。
- 3GBは実行時のメモリで、モデルファイル自体は引き続きスマートフォンのストレージを占める。量子化後の具体的なサイズは、公式が公開するファイルで確認する必要がある。
- 対応リストの記載は「適配(対応)」であり、各プラットフォームの推論フレームワークや量子化形式がすぐ使える状態かどうかは、開発者が一つずつ検証するしかない。
面壁のMiniCPM-Vは、過去の数世代にわたり「小さなパラメーターで、スマートフォンに載せる」路線を貫いてきた。今回MoEを持ち込んだのは、パラメーター構造から見れば、総パラメーターとスマートフォンのメモリのあいだの配分を変えたということだ。総量は大きくしつつ、各ステップで使う量は約30億に抑えている。今後の注目点は二つ。LESがメモリの小さい端末でも速度を維持できるか、そして第三者の評価があの34項目の成績を再現できるかである。
参考資料:OpenBMB GitHubリポジトリ MiniCPM-V(LESの仕組み、プラットフォーム対応、ライセンス)、ITホーム、CocoLoop、鳳凰網科技、Hugging Faceのモデルページと設定ファイル(層数、エキスパート数、重みサイズ)。