InclusionAIの新しい小型Lingモデルは、パラメータ効率の発表に見える。狙いはもっと具体的で、ローカルエージェントの実行基盤だ。
8月11日、Ant GroupのLingチームはLing-3.0-tinyをオープンソース化した。界面新聞は、総パラメータ7.9B、tokenごとの活性化パラメータ1.3B、BF16、FP8、INT4の3種類の重みを報じた。Hugging Faceのモデルカード、ModelScope、SGLang文書が、より細かい技術口径を示している。
“We are introducing Ling-3.0-tiny, a lightweight hybrid reasoning MoE model”
小型モデルがエージェントを語る理由
Ling-3.0-tinyはKimi Delta AttentionとMulti-Head Latent Attentionを3:1で交互に積む。MoEのFFNには128のルーティング専門家があり、各tokenは8つのルーティング専門家と1つの共有専門家を使う。
狙いは、長い文脈、低メモリ、ツール利用型タスクを同時に満たすことだ。小型チャットモデルは安いが、長いコーディング、ツール呼び出し、多段階判断では文脈と計画が崩れやすい。Ling-3.0-tinyは単発チャットより、エージェントワークフローを意識している。
本命はローカル配備
モデルカードによると、NVIDIA DGX Spark、Apple Silicon MacBook、Mac miniで検証済み。FP8ではDGX Sparkで約100-105 tokens/s、M4 Pro MacBookで約86-90 tokens/s、8K文脈でピークメモリ約8.34 GiBとされる。
この数字は、開発者が持つ端末で推論型エージェントを動かす可能性を示す。データは端末内に置け、コストはクラウドのtoken課金からハードウェアと電力へ移る。
制約もある。SGLangの低遅延レシピは256K YaRN文脈とNEXTN推測デコードに、141GB級GPUまたは単一Blackwellノードを挙げている。MacBookの数値はFP8、ローカルハードウェア、8K文脈の口径であり、256K長時間タスクを約束する数字ではない。
評価は境界線を示す
モデルカードでは、Artificial Analysis Intelligence Index v4.1.1が25、Agentic Indexが16。テスト上の出力速度は160 tokens/s超、推論時間込みの500-token応答は約18秒だ。
これは旗艦モデルの点数ではない。価値は活性化パラメータあたりの実用性にある。Ling-3.0-flashの方が同じ評価で高いが、規模も大きい。tiny版は、ローカルで常駐し、ツールを呼び、長い作業を回す実行カーネルに近い。
次の確認点は、SGLangとvLLMの対応が安定するか、INT4版が一般的な消費者向け端末でどこまで使えるか、IDEやブラウザ自動化、企業内ツールに組み込まれるかだ。起動方法は示された。価値は長時間タスクで決まる。
情報源：Hugging Faceモデルカード、ModelScope、界面新聞、Artificial Analysis、CocoLoop、SGLang文書；総7.9B、活性化1.3B、BF16/FP8/INT4重み、KDA/MLAと128専門家構成、DGX Spark/M4 Pro速度、8Kメモリ口径、Artificial Analysis指標、SGLang 256K配備口径を確認。