想给大模型涨点本事,常规思路是改权重——微调、RLHF,一套下来又费卡又费数据。
微软这周放出来的 SkillOpt 走了条歪路:模型权重一个字节都不碰,冻死在那。它去训练的,是一个 Markdown 文件。
就这么个改动,GPT-5.5 在六个基准上平均涨了 23 分。
把一份说明文档当成可训练的参数
先解释下这事的逻辑。
现在给 Agent 派活,常见做法是写一份「skill」——本质就是个说明文档,告诉模型这类任务该怎么一步步干。这文档通常是人手写的,写得好不好全看经验。
SkillOpt 的想法是:别人写了,那为什么不能像训练神经网络那样,让这文档自己迭代变好?
具体怎么干:
- 模型本体冻结,完全不动
- 另起一个「优化器模型」,专门给这份 skill 文档提修改意见——加一句、删一句、换一句
- 每个改动都先拿没见过的测试集验一遍,验证通过才留下,没用就扔
- 整套还借了深度学习那一套:学习率上限、调度、负样本缓冲、逐轮固化,防止越改越乱
说白了,它把一份人话写的操作手册,硬生生变成了一组「可训练参数」。
涨 23 分,而且文档还很小
效果上,SkillOpt 在 GPT-5.5 的六个基准上平均提了约 23 分,把几种对手全比了下去——人手写的 skill、让大模型一次性生成的、还有 Trace2Skill、TextGrad 这些专门的方法。
更划算的是开销。训出来的文档不臃肿,最后就 300 到 2000 个 token,多数情况下「四轮训练里只接受了一到四处修改」。改动少、文档小,塞进上下文也不占地方。
最有意思的一句结论在这——
弱模型受益最大。
研究者解释,因为这份文档把「该怎么干」的流程知识用规则写死了,正好补上了模型权重里缺的那块。模型本身越弱,这份外挂手册帮的忙越大。而且同一份 skill 还能跨模型、跨环境直接用,不用重训。
这个方向为什么有意思
这两年「skill」「agent 手册」这套东西越来越火——Claude Code 也好,各家 Agent 框架也好,都在让你给模型写外部说明书。但写手册这事一直是手艺活,靠人琢磨。
SkillOpt 等于把这道工序自动化了:你不用是 prompt 高手,让优化器替你迭代就行。
当然它也有边界。研究者自己点了名:得有一套靠谱的自动打分机制才玩得转,而且它一次只优化一份文档,面对特别杂的多领域任务,威力会打折。
但方向是清楚的——往后给 AI 提能力,不一定非得动那个几千亿参数的大家伙。有时候,调一份文档就够了。
参考来源:CocoLoop、Microsoft's SkillOpt boosts GPT-5.5 by using nothing but a trained Markdown file(The Decoder)