蚂蚁开源两款6B设计模型,能拆9个图层
两个模型都是 6B 参数、MIT 协议,Design 吃得下最长 8K token 的结构化提示词,Layer 把一张平面设计拆成 2 到 9 个 RGBA 图层,官方验证过的运行配置是单张 80GB 显存的显卡。
收录 蚂蚁集团 相关 AI 新闻、产品动态和产业观察。 本页收录 4 篇已发布文章。
两个模型都是 6B 参数、MIT 协议,Design 吃得下最长 8K token 的结构化提示词,Layer 把一张平面设计拆成 2 到 9 个 RGBA 图层,官方验证过的运行配置是单张 80GB 显存的显卡。
并发为 1 的时候,卡住模型的常常是 CPU 那一侧的等待,显卡反倒闲着。SGLang 与蚂蚁把这些等待逐个拆掉,单请求每个 token 的耗时从 3.33 毫秒压到 0.78 毫秒。
蚂蚁与 SGLang 团队把量化后的权重常驻显存、让新进程零拷贝映射过去,省掉每次重启都要重做一遍的读盘和量化。模型越大,推理侧的成本账就越往运维那头挪。
蚂蚁这次资金流向机器人的“指尖感”。戴盟把触觉传感器、物理交互数据和 10B 级世界模型绑在一起,试图让机器手先学会判断接触、滑动和受力。