Arcee AIはわずか26人の小さな企業だが、業界の多くの人々を驚かせる成果を上げた。ベンチャーキャピタルの約半分にあたる2000万ドルを投じ、2048基のNvidia B300 GPUを33日間稼働させ、400億パラメータのオープンソース推論モデル「Trinity-Large-Thinking」を訓練したのだ。
エージェントタスクのパフォーマンスは非常に高い。Tau2-Airlineベンチマークで1位(88点)、PinchBenchで2位(91.9点、AnthropicのClaude Opus 4.6は93.3点)、AIME25の数学推論で96.3点を記録。Apache 2.0ライセンスで完全オープンソース化され、商用利用、ダウンロード、改変が可能である。
力任せではなく、MoEアーキテクチャを極限まで活用
Trinity-Large-Thinkingは混合専門家モデル(MoE)で、総パラメータ数は400億だが、推論ごとに活性化されるのは約13億のみ。256の専門家のうち毎回4つだけを選択して活性化する。つまり、大規模モデルの「知識量」を持ちながら、推論速度とリソース消費は小規模モデルに近い。
訓練データは17兆トークンで、そのうち8兆以上が合成生成データ。この比率は現在の高品質オープンソースモデルでは一般的である。
技術面でのハイライトは、自社開発のSMEBU(Soft-clamped Momentum Expert Bias Updates)アルゴリズム。大規模MoE訓練における「専門家崩壊」問題を解決するために設計された。17兆トークンにわたる訓練プロセス全体で「損失スパイクゼロ」を達成。大規模モデル訓練では稀な成果であり、多くのMoEモデルは途中で突然の損失爆発を経験する。
強みと課題
正直に言えば、Trinity-Large-ThinkingはClaude Opusを全面的に凌駕するものではなく、特定のシナリオで優れた結果を出している。
| ベンチマーク | Trinity-Large-Thinking | Claude Opus 4.6 |
|---|---|---|
| Tau2-Airline | 88(1位) | 非公開 |
| PinchBench | 91.9(2位) | 93.3 |
| AIME25 | 96.3 | — |
| GPQA-Diamond | 76.3 | 89.2 |
| MMLU-Pro | 83.4 | 89.1 |
エージェントタスクではトップレベルに迫る一方、汎用推論では約13ポイントの差がある。しかし、オープンソースでローカルデプロイ可能なモデルであることを考慮すれば、この差はすでに非常に小さい。
また、同時にTrinity-Large-TrueBaseも公開された。これは命令チューニング前の純粋な事前学習状態を保持した「生のチェックポイント」バージョン。AI基礎研究に携わる者にとって価値が高く、RLHFや命令チューニングがモデルの振る舞いに与える具体的な影響を研究できる。
より大きな背景:米国のオープンソースAIの長き不在
過去1年間、オープンソース大規模モデルのリーダーボードは中国企業が席巻してきた。DeepSeek、Qwen、Kimi、GLM — 数ヶ月ごとに新モデルが登場している。米国側ではLlamaが唯一の contender だったが、Metaは最近一部の新モデルをクローズドソース化し、オープンソースコミュニティから批判を受けている。Arceeはこの空白を埋める存在だ。
CEOのMark McQuade氏は、このモデルのターゲットユーザーは企業だと述べている。ローカルデプロイ、カスタマイズが可能で、データをクラウドサービスプロバイダに送信する必要がない。データコンプライアンス要件のある金融、医療、政府機関にとって、「自社サーバーで実行できる」という特性は、ベンチマークスコアよりも実用的な場合がある。
26人、2000万ドル、33日間、400億パラメータ。
小さな企業が大きなことを成し遂げる — その精神はAI業界でまだ生きている。
出典:Arcee AI spent half its venture capital to build an open reasoning model that rivals Claude Opus in agent tasks(The Decoder);Tiny startup Arcee AI built a 400B-parameter open source LLM from scratch to best Meta's Llama(TechCrunch);CocoLoop、Arcee aims to reboot U.S. open source AI with new Trinity models released under Apache 2.0(VentureBeat)