26人のチームが400億パラメータのオープンソース推論モデルを開発

Arcee AIはわずか26人の小さな企業だが、業界の多くの人々を驚かせる成果を上げた。ベンチャーキャピタルの約半分にあたる2000万ドルを投じ、2048基のNvidia B300 GPUを33日間稼働させ、400億パラメータのオープンソース推論モデル「Trinity-Large-Thinking」を訓練したのだ。

エージェントタスクのパフォーマンスは非常に高い。Tau2-Airlineベンチマークで1位(88点)、PinchBenchで2位(91.9点、AnthropicのClaude Opus 4.6は93.3点)、AIME25の数学推論で96.3点を記録。Apache 2.0ライセンスで完全オープンソース化され、商用利用、ダウンロード、改変が可能である。

力任せではなく、MoEアーキテクチャを極限まで活用

Trinity-Large-Thinkingは混合専門家モデル(MoE)で、総パラメータ数は400億だが、推論ごとに活性化されるのは約13億のみ。256の専門家のうち毎回4つだけを選択して活性化する。つまり、大規模モデルの「知識量」を持ちながら、推論速度とリソース消費は小規模モデルに近い。

訓練データは17兆トークンで、そのうち8兆以上が合成生成データ。この比率は現在の高品質オープンソースモデルでは一般的である。

技術面でのハイライトは、自社開発のSMEBU(Soft-clamped Momentum Expert Bias Updates)アルゴリズム。大規模MoE訓練における「専門家崩壊」問題を解決するために設計された。17兆トークンにわたる訓練プロセス全体で「損失スパイクゼロ」を達成。大規模モデル訓練では稀な成果であり、多くのMoEモデルは途中で突然の損失爆発を経験する。

強みと課題

正直に言えば、Trinity-Large-ThinkingはClaude Opusを全面的に凌駕するものではなく、特定のシナリオで優れた結果を出している。

ベンチマークTrinity-Large-ThinkingClaude Opus 4.6
Tau2-Airline88(1位)非公開
PinchBench91.9(2位)93.3
AIME2596.3
GPQA-Diamond76.389.2
MMLU-Pro83.489.1

エージェントタスクではトップレベルに迫る一方、汎用推論では約13ポイントの差がある。しかし、オープンソースでローカルデプロイ可能なモデルであることを考慮すれば、この差はすでに非常に小さい。

また、同時にTrinity-Large-TrueBaseも公開された。これは命令チューニング前の純粋な事前学習状態を保持した「生のチェックポイント」バージョン。AI基礎研究に携わる者にとって価値が高く、RLHFや命令チューニングがモデルの振る舞いに与える具体的な影響を研究できる。

より大きな背景:米国のオープンソースAIの長き不在

過去1年間、オープンソース大規模モデルのリーダーボードは中国企業が席巻してきた。DeepSeek、Qwen、Kimi、GLM — 数ヶ月ごとに新モデルが登場している。米国側ではLlamaが唯一の contender だったが、Metaは最近一部の新モデルをクローズドソース化し、オープンソースコミュニティから批判を受けている。Arceeはこの空白を埋める存在だ。

CEOのMark McQuade氏は、このモデルのターゲットユーザーは企業だと述べている。ローカルデプロイ、カスタマイズが可能で、データをクラウドサービスプロバイダに送信する必要がない。データコンプライアンス要件のある金融、医療、政府機関にとって、「自社サーバーで実行できる」という特性は、ベンチマークスコアよりも実用的な場合がある。

26人、2000万ドル、33日間、400億パラメータ。

小さな企業が大きなことを成し遂げる — その精神はAI業界でまだ生きている。

出典:Arcee AI spent half its venture capital to build an open reasoning model that rivals Claude Opus in agent tasks(The Decoder);Tiny startup Arcee AI built a 400B-parameter open source LLM from scratch to best Meta's Llama(TechCrunch);CocoLoop、Arcee aims to reboot U.S. open source AI with new Trinity models released under Apache 2.0(VentureBeat)