当大模型公司还在给数据中心找电,Richard Sutton 把新公司的目标写成了另一个尺度:1 万亿参数、实时学习、实时规划、功耗 20 瓦。
20 瓦约等于人脑日常耗能。这个数字放在 2026 年的 AI 语境里很刺眼。行业一边谈万亿参数,一边默认要靠更多 GPU、更多机房、更多冷却系统去堆;Sutton 给出的方向反过来,把「智能」重新拉回一个会在运行中学习的系统。
7 月 13 日,2024 年图灵奖得主、强化学习奠基人 Sutton 与学生 Khurram Javed 离开 John Carmack 的 Keen Technologies,成立 Oak Lab。新公司设在多伦多,官网已经上线 Mission 和第一篇研究帖。
“Current deep learning methods are weak and inefficient.”
Sutton 的意思很直白:现在这套深度学习路线太弱、太低效,需要新想法重做地基。
一家小公司,赌运行时学习
Sutton 反对「只靠更大模型」已有一段时间。
他过去一年多反复谈到一个判断:今天的生成式 AI 很会模仿人类写过、拍过、标注过的东西,却很难在真实环境里持续产生经验、检验经验,再把结果沉淀成长期能力。Oak Lab 的 Mission 页面把目标写得更工程化:让智能体在大世界里达成目标,学习算法不存储、不回放历史数据,直接从经验流里更新。
这里的「经验」指向聊天记录存进记忆库之外的东西。更接近机器人、自动驾驶或游戏智能体在环境里做动作、拿反馈、改策略。人类学会开门、走路、接水,不会先看完一座互联网再统一训练一次;Sutton 想让 AI 的学习过程也更像这种连续动作。
这就是 OaK 架构的来源。OaK 是 Options and Knowledge,Oak Lab 对它的描述是:从经验中发现有时间跨度的抽象结构,形成可自我验证、可用于规划的技能。
讲人话,机器人第一次进厨房接水,会经历找门、避障、拿杯子、开水龙头。普通系统可能把它当成一次长任务。OaK 希望把这些动作压缩成「去厨房」「拿杯子」「接水」这样的可复用技能,下次碰到相似目标时直接组合。
20瓦背后的技术账
Oak Lab 第一篇研究帖没有直接展示万亿参数模型,先拿一个更小的问题开刀:为什么现有优化器不擅长从噪声经验里学?
它先构造一个极简数据流:一个二值特征,每步只有 1% 概率为 1;为 1 时目标也为 1,其他时候目标为 0。随后加入两层噪声:每步 1% 概率随机加上 +1 或 -1,再加方差为 5 的高斯噪声。最后把输入扩展到 4096 个特征,其中 4095 个都和目标无关。
用 SGD 学这件事,模型会把误差「摊」到大量无关特征上,参数里吸进噪声。换成 Sutton 1992 年提出的 IDBD 思路,系统能更集中地把信用分给有用信号。
第二个实验换成 NoisyMNIST:把 28×28 的手写数字嵌进 64×64 图像中心,外圈塞满 1% 概率激活的噪声特征,再接一个 1 万个 ReLU 单元的网络。结果也相似:SGD 把权重铺到整张图,NetworkIDBD 主要把权重集中在中心数字区域。
这组实验的价值不在 MNIST 本身,它在解释 Oak Lab 的工程方向:如果智能体要边做边学,就不能把所有新输入都当成同等有用的训练样本。真实世界里大部分信号是噪声,算法要先学会分信用,才能谈低功耗持续学习。
压力会推向大模型之外
Sutton 这次创业短期不会威胁 OpenAI、Anthropic 或 Google 的商业盘。Oak Lab 目前更像研究型公司,官网列出的 event-driven neural networks、batch-size-one learning 也还在早期。
它的信号意义在另一层:大模型路线的下一段竞争,可能会从「谁会生成」转向「谁能在环境里自己检验」。代码智能体已经露出这个趋势,程序能不能跑、测试能不能过、PR 有没有 bug,都能给模型明确反馈。机器人、自动驾驶、实验室自动化也有类似闭环,只是反馈更慢、代价更高。
对中文读者来说,这条线和国内具身智能、世界模型、AI4S 都连在一起。过去半年,机器人公司爱讲 VLA、世界模型和端到端控制,但很多项目仍停在演示和数据采集。Sutton 把问题往底层算法又推了一步:如果系统不会从自己经历里长期更新,所谓「走进真实世界」就会变成不断收数据、不断离线重训。
Oak Lab 给出的答案还很远。1 万亿参数和 20 瓦放在同一句里,今天看更像一面旗帜,离产品路线图还有距离。可这面旗帜立得足够清楚:下一代智能体的难点,可能不在会不会说话,也不在单次任务跑分,运行中的学习、规划和能耗账要同时成立。
Sutton 年近七十重新创业,押注的是 AI 训练范式的方向盘。
参考来源:Oak Lab Mission 与研究页核验 OaK 架构、20 瓦目标、batch-size-one 与 NoisyMNIST 实验口径;The Decoder、CocoLoop、Indian Express 核验 Oak Lab 成立、人事变动与 Sutton 公开表述;36氪/量子位核验中文报道口径。