News - Cocoloop
首页ClaudeGPTGeminiDeepSeek开源模型全部标签归档

MoE 资讯与深度分析

收录 MoE 相关 AI 新闻、产品动态和产业观察。 本页收录 4 篇已发布文章。

Meta 2026-04-07

Llama 4 首次采用 MoE Scout 与 Maverick 登场

去年4月5号Meta放出了Llama 4,这是Llama系列 第一次用MoE架构 。同时发了两个型号: Llama 4 Scout 激活参数: 17B / 总参数约109B 专家数量: 16个 上下文窗口: 1000万token 没错,一千

#Llama#开源#MoE
Kimi 2026-04-07

Kimi K2 开源万亿参数 MoE 模型

去年7月,月之暗面直接开源了Kimi K2——一个 万亿参数 的MoE大模型,每个token只激活32B参数。 架构亮点 总参数: 1万亿 每token激活: 32B 训练数据:约 15.5万亿token 上下文:128K(后续升级到256

#Moonshot#开源#MoE
DeepSeek 2026-04-07

DeepSeek V3.1融合通用与推理模型

去年8月DeepSeek放出了V3.1,这是他们 第一个混合模型 ——把V3(通用)和R1(推理)的能力合进了同一个模型里。 架构设计 总参数: 671B ,每token激活 37B 每层256个专家,激活8个 两种模式一键切换: Thin

#混合模型#MoE
DeepSeek 2026-04-07

DeepSeek V3:671B参数仅激活37B

去年12月DeepSeek发布了V3,这个模型最让同行坐不住的地方不是性能——而是 成本 。 先看架构 V3的设计核心是 Mixture of Experts : 总参数量: 671B 每个token实际激活: 37B 每层256个专家,每

#MoE#开源

News · Cocoloop

AI前沿资讯与深度分析,覆盖大模型、开源社区、产业动态。文章由 Cocoloop 编辑部基于公开来源核验整理。

模型资讯

  • Claude
  • GPT / OpenAI
  • Gemini
  • DeepSeek
  • Qwen

主题

  • 开源模型
  • AI编程
  • Agent
  • 全部标签

站点

  • 首页
  • 文章归档
  • Sitemap
  • RSS 订阅
  • robots.txt
  • 编辑标准

友情链接

  • Cocoloop 主站
  • 问答站
  • Hermes 指南

© 2026 News · Cocoloop — AI前沿资讯