Meta、8160億パラメータのオープンウェイト「Muse Spark Open」公開
Metaが総パラメータ8160億のMoEモデル「Muse Spark Open」の重みを公開。コーディングとエージェント向けで、Mac Studio 2台で動かせると説明している。
MoEアーキテクチャのニュースと分析
MoEアーキテクチャに関する製品動向と業界分析を全6件掲載しています。
StepFun、6000億パラメータのStep 5を公開 8基GPUで稼働
StepFunは予告どおりStep 5 Previewの重みをHugging Faceで公開した。6000億パラメータのMoEモデルで、FP8版はH200 8基のサーバー1台で動作する。
階躍のStep 5 Preview公開、コスト8分の1主張
階躍星辰の新型MoEモデルStep 5 Previewが登場。オープンウェイト系で世界3位のスコアを主張し、コストはClaude Opus 5の8分の1と発表。完全な重みは10月15日公開予定。
Kimi K2.6、HLEでオープンソース首位を獲得
月之暗面（Moonshot AI）が先週、完全版のKimi K2.6をリリース。HLE-Fullで54.0を記録し、クローズドソースのClaude Opus 4.6やGPT-5.4を上回った。1兆パラメータのMoEモデルは推論ごとに32Bパラメータのみを活性化し、最大300の並列サブエージェントをサポートする。
NVIDIA、Nemotron 3 全シリーズと学習データをオープンソース化
NVIDIAは、モデル重み、3兆トークンの事前学習データセット、強化学習パイプライン、評価ツールを含むNemotron 3シリーズをすべてオープンライセンスで公開した。
Mistral、MoEモデルをオープンソース化：119Bパラメータ、活性化はわずか6.5B
MistralはSmall 4をリリース。3つの独立したモデルを1つに統合するMoEアーキテクチャを採用し、テキスト推論、画像理解、コード生成、関数呼び出し、JSON出力を256Kコンテキストウィンドウでサポートする単一デプロイメントを実現。