美団がLongCat-2.5を公開、重みは未公開

美団（Meituan）のLongCatチームは11月1日、LongCat-2.5を公開した。9月25日に出たプレビュー版に、完全な技術レポートと評価表が加わった形だ。公式サイトではすでに試用でき、APIも接続されているが、オープンソース版はまだ出ておらず、ページ上のGitHubとHuggingFaceの入口は「近日公開」と表示されている。6月末のLongCat-2.0が公開と同時にオープンソース化されたのとは異なる経路だ。

モデル規模は変わらず、総パラメータ1.6兆、トークンごとの活性化は約480億。変わったのは能力の方向で、一つはネイティブなマルチモーダル、もう一つは長期タスク向けのエージェント型コーディングである。

2.0からは大きく伸びたが、トップ勢との比較は一長一短

公式の表には30以上の評価項目が並ぶ。ここでは代表的なものをいくつか抜き出した。

いくつかはっきりした傾向がある。完成した開発プロジェクトを長時間かけて走らせる必要があるタスクでは、2.0に対する伸びが最も大きい。Terminal Bench v4.0とProgram Benchはどちらも10倍以上に上昇した。BrowseComp、ResearchRubrics、ALE、3DCodeBenchでは、公式の表の中で最高スコアを記録している。一方、コード生成系の多くの項目ではなおOpus 5に及ばず、DeepSWEの64.6は上の表の比較対象の中で最も低い。

この表を読むうえで注意すべき点が三つある。一つ目は、比較対象にGPT-6系列、Opus 5.5、Fable 5.1が含まれていないことで、これらのより新しいモデルとは同じ土俵に立っていない。二つ目は、アスタリスク付きの対戦相手のスコアは公開レポートからの引用で、付いていないものは美団の自社測定であり、公式自身も「参考値」と明記している点だ。三つ目は、項目ごとにharnessやパラメータが統一されていないことである。現時点で第三者機関による再現結果は確認されておらず、これらのスコアはひとまず美団の自己申告として扱うほかない。

視覚をどう本体に取り込むか

マルチモーダルの手法は、画像を多階層の離散トークンにエンコードし、本体モデルが視覚とテキストを同じトークン形式で扱えるようにするものだ。視覚トークナイザーは固定されており、トークンIDを事前に計算してキャッシュできるため、学習の計算グラフから視覚エンコーダーがなくなった。チームによれば、これにより長いシーケンスのパッキングが簡素化され、分散学習の負荷分散も改善したという。

公式はこの能力をコーディングとまとめて説明し、Visual Codingと呼んでいる。デモにはリアルタイムの流体シミュレーション、3Dの文化財展示、都市の模型などがある。

長期タスクの能力は強化学習で積み上げている。学習用のタスクはGitHubの公開リポジトリと社内のコード環境から合成し、実際のエージェントが失敗した軌跡も再現可能な学習問題に変換される。モデルがズルをするのを防ぐため、環境ではネットワークを遮断し、gitの履歴とファイルキャッシュを消去したうえで、LLM judgeが軌跡を監視し、同じ思考や同じツール呼び出しの繰り返しには追加で減点する。

計算資源まわりの数字

レポートは国産アクセラレータカードの説明に多くの紙幅を割いており、1枚あたりのメモリが80GBに満たないことを制約として繰り返し挙げている。公開された二つの最適化効果は次のとおり。

• 長シーケンス学習：スーパーノード向けに設計したFSDP構成に切り替えたところ、1枚あたりのスループットがDDPのベースラインより86%向上した。
• W4A4推論：エキスパートの重みと活性化をともに4bitに量子化し、オンラインの負荷試験でW8A8のベースラインと比べると、prefillのスループットが43.3%、decodeが42.77%向上し、TTFTとTPOTはそれぞれ15.91%、19.72%低下した。

レポートには、どのメーカーのカードを何枚使ったのか、学習にいくらかかったのかは書かれていない。技術ブログにも正式版のAPI価格は載っておらず、プレビュー版は期間限定価格だった。新しい価格はオープンプラットフォームの告知で確認する必要がある。オープンソース化の時期も示されておらず、重みが公開されて初めて、外部がこの評価表を自分たちで検証できるようになる。

参考資料：LongCat公式技術レポートと評価表、CocoLoop、ITホーム。評価スコアはいずれも公式発表の基準によるもので、対戦相手のスコアは一部が公開レポートからの引用、一部が美団の自社測定。