微软仅训练一个 Markdown 文件让 GPT-5.5 涨 23 分

想给大模型涨点本事,常规思路是改权重——微调、RLHF,一套下来又费卡又费数据。

微软这周放出来的 SkillOpt 走了条歪路:模型权重一个字节都不碰,冻死在那。它去训练的,是一个 Markdown 文件。

就这么个改动,GPT-5.5 在六个基准上平均涨了 23 分。

把一份说明文档当成可训练的参数

先解释下这事的逻辑。

现在给 Agent 派活,常见做法是写一份「skill」——本质就是个说明文档,告诉模型这类任务该怎么一步步干。这文档通常是人手写的,写得好不好全看经验。

SkillOpt 的想法是:别人写了,那为什么不能像训练神经网络那样,让这文档自己迭代变好?

具体怎么干:

  • 模型本体冻结,完全不动
  • 另起一个「优化器模型」,专门给这份 skill 文档提修改意见——加一句、删一句、换一句
  • 每个改动都先拿没见过的测试集验一遍,验证通过才留下,没用就扔
  • 整套还借了深度学习那一套:学习率上限、调度、负样本缓冲、逐轮固化,防止越改越乱

说白了,它把一份人话写的操作手册,硬生生变成了一组「可训练参数」。

涨 23 分,而且文档还很小

效果上,SkillOpt 在 GPT-5.5 的六个基准上平均提了约 23 分,把几种对手全比了下去——人手写的 skill、让大模型一次性生成的、还有 Trace2Skill、TextGrad 这些专门的方法。

更划算的是开销。训出来的文档不臃肿,最后就 300 到 2000 个 token,多数情况下「四轮训练里只接受了一到四处修改」。改动少、文档小,塞进上下文也不占地方。

最有意思的一句结论在这——

弱模型受益最大。

研究者解释,因为这份文档把「该怎么干」的流程知识用规则写死了,正好补上了模型权重里缺的那块。模型本身越弱,这份外挂手册帮的忙越大。而且同一份 skill 还能跨模型、跨环境直接用,不用重训。

这个方向为什么有意思

这两年「skill」「agent 手册」这套东西越来越火——Claude Code 也好,各家 Agent 框架也好,都在让你给模型写外部说明书。但写手册这事一直是手艺活,靠人琢磨。

SkillOpt 等于把这道工序自动化了:你不用是 prompt 高手,让优化器替你迭代就行。

当然它也有边界。研究者自己点了名:得有一套靠谱的自动打分机制才玩得转,而且它一次只优化一份文档,面对特别杂的多领域任务,威力会打折。

但方向是清楚的——往后给 AI 提能力,不一定非得动那个几千亿参数的大家伙。有时候,调一份文档就够了。

参考来源:CocoLoop、Microsoft's SkillOpt boosts GPT-5.5 by using nothing but a trained Markdown file(The Decoder)