一、一个根本问题：AI为什么“屡教不改”？
你肯定遇到过这种情况：让一个强大的大模型去处理一份复杂的Excel表格。它理解你的指令，但结果却是一团糟——公式写错了位置，忘记检查表格结构，或者输出了不符合要求的格式。
你有办法修正它吗？传统思路只有两条路：
- 调整模型权重（相当于给AI“换大脑”）——但这极其昂贵，而且对于GPT这样的封闭模型，你根本做不了。
- 写更好的提示词（相当于给AI“写考前押题”）——但每次写完了，下次遇到类似任务，AI还是不记得上次的经验。
这篇论文提出的第三条路很巧妙：让AI给自己写一个可以持续迭代的“技能笔记”，并且用一套类似深度学习训练的方法来优化这本笔记。 这个方法叫做 SKILLOPT。
二、核心洞察：把技能文档当作“可训练的参数”
这篇论文最关键的洞察是：智能体的“技能”不应该是一次性写好的固定规则，而应该像深度学习中的模型参数一样，可以被反复训练和优化。
但和调整模型权重不同，SKILLOPT优化的是一个纯文本文件（一个名为best_skill.md的文档）。这意味着：
- 可读可审计：你可以直接打开这个文件，看到AI到底学会了什么规则。
- 不用动模型：你训练的是“笔记”，而不是“大脑”。模型本身是冻结的，不需要重新训练。
- 可迁移：在A模型上训练好的“笔记”，可以直接给B模型用。
这就像给AI配备了一个“训练营”：一个是执行任务的学生模型（你实际在用的AI），另一个是负责分析错误、编写改进方案的教练模型（一个更强的AI）。教练不直接执行任务，它只看学生的表现，然后修改学生的“技能笔记”。
三、SKILLOPT的训练循环：像深度学习一样优化技能
SKILLOPT把技能优化建模成和深度学习训练高度类似的流程。下面我们来拆解这个流程。
第一步：前向传播——收集执行证据（“学生做题”）
学生模型拿着当前版本的“技能笔记”，去执行一批任务（称为一个“Rollout批次”）。系统记录下每一次完整的执行轨迹和得分。
这就好比深度学习里的前向传播：输入数据（任务），经过当前参数（技能笔记），得到输出和损失（轨迹和得分）。
第二步：反向传播——小批次反思（“教练批改作业”）
这是最有趣也最核心的一步。教练模型不会只看一个案例就匆忙下结论。它会：
- 把执行结果分为成功组和失败组。
- 在每个组内，再分成若干个“反思小批次”（Minibatch Reflection）。为什么要分小批次？因为单个案例可能只是偶然的成功或失败，而把小批次里的多个案例放在一起看，才能发现真正具有共性的、可复用的系统性错误。
比如，教练在分析了小批次中的所有失败案例后，可能会总结出：“这个学生在处理表格时，总是忘记先检查工作簿的结构就开始填写数据，这是系统性的错误模式。”
然后，教练会提出具体的修改建议：是添加一条新规则？替换掉某条过时的规则？还是删除一条误导性的规则？这些操作被称为原子编辑（Add/Delete/Replace）。
第三步：有界的文本更新——核心创新（“控制学习率”）
这是SKILLOPT最关键的设计创新，也是它区别于其他方法的地方。
在深度学习里，我们有一个“学习率”（Learning Rate）来控制每次参数更新的幅度。学习率太大，模型会震荡甚至发散；学习率太小，收敛太慢。
SKILLOPT提出了一个文本学习率（Textual Learning Rate） L_t。它不是一个数值，而是一个预算：单次优化步骤中，最多允许修改“技能笔记”中的多少条规则。
比如，L_t=4 意味着这次最多只能添加、删除或替换4条规则。
- 为什么这很重要？ 如果没有这个限制，教练可能会一次性重写大半本笔记。这带来的问题就是“灾难性遗忘”——把之前学到的好规则也给冲掉了，或者过度拟合到当前这个小批次的数据上。
- 学习率调度：和深度学习一样，SKILLOPT也支持学习率衰减。在训练初期，
L_t可以大一些（允许较大改动）；随着训练进行，L_t逐渐变小（只做精细调整）。
第四步：验证门与拒绝缓冲区（“模拟考”和“错题本”）
修改后的候选“技能笔记”不会立即生效。它必须先通过一个验证门（Validation Gate）：在一个独立的、从未参与训练的数据集（验证集）上进行一次“模拟考”。
- 只有成绩严格提升（比当前的版本好），这个新版本才会被正式接受。
- 如果成绩没变好，甚至变差了，这个新版本就会被拒绝。
被拒绝的修改不会被丢掉。它会被记录到一个拒绝缓冲区（Rejected-Edit Buffer） 里。在后续的优化中，教练可以查阅这个“错题本”，从而避免提出相同方向的错误修改。这实现了负反馈机制。
第五步：逐Epoch的缓慢/元更新（“阶段性复盘”）
前面四步是每次“小步快跑”式的优化。除此之外，SKILLOPT还有一个更长的时间尺度——逐Epoch的缓慢/元更新（Epoch-Wise Slow/Meta Update）。
在每个Epoch（一个完整的训练周期）结束时，系统会做一个横向对比：用Epoch开始时的技能和结束时的技能，在同一批任务上执行，然后比较结果的变化。它会分析：
- 哪些方面进步了？ （改进）
- 哪些方面退步了？ （回归）
- 哪些问题始终没解决？ （持续失败）
- 哪些方法一直很稳定？ （稳定成功）
基于这个纵向分析，教练会写一段更高层次的指导原则，放入技能笔记中一个受保护的“慢更新区”。这个区域不会被日常的步骤级修改所覆盖，只在每个Epoch结束时由专门的“缓慢更新”过程重写。
这就像每个学期结束后的总结：“经过对比发现，这个学生在处理大型表格时，先检查结构再填数的策略很有效；但在处理公式计算时，之前的一些规则导致了倒退。接下来的重点应该是……”
四、实验结果：52项全胜
这篇论文可能是目前对技能优化方法最系统的一次评估。实验的设计非常全面：
- 测试范围：6个不同的基准测试（涵盖问答、表格处理、文档理解、数学推理、家务机器人等），7种不同规模的大模型（从最强的GPT-5.5到最弱的Qwen3.5-4B），3种执行环境（直接聊天、Codex代码执行、Claude Code代码执行）。
- 对比基线：7种竞品方法，包括人类手写的技能、单次生成的技能、以及TextGrad、EvoSkill等自动优化方法。
- 结果：在总计 52种 不同的组合中，SKILLOPT 要么是最优的，要么并列最优。没有一个例外。
具体提升有多大？
- 对于最强的 GPT-5.5，在直接聊天模式下，6个基准测试的平均分从 58.8%（无技能）提升到 82.3%，提升了 23.5个百分点。
- 在Codex和Claude Code这两种工具执行模式下，GPT-5.5的平均性能分别提升了 24.8 和 19.1个百分点。
- 对于最弱小的 GPT-5.4-nano，提升是颠覆性的：在表格处理任务上，准确率从23.5%提升到42.5%（几乎翻倍）；在家务机器人任务上，从34.3%提升到69.4%（翻倍）。这说明小模型从好的“技能笔记”中获益更大，因为笔记补足了它们在权重中没有的“程序性知识”。
五、这份“技能笔记”长什么样？——可迁移的程序性知识
你可能好奇，经过这番精密训练后，最终的best_skill.md是什么样的？
- 非常紧凑：只有 300到2000个token（大约几百到一千多个英文单词），相当于一个中等长度的短信。
- 编辑次数极少：所有性能提升只通过 1到4次 被验证门接受的编辑实现。这意味着教练提出了大量建议，但绝大多数都被验证门拒绝了，最终留下的都是精华。
- 内容是程序性知识，而非死记硬背：最让人印象深刻的是，这些规则不是“记住第27题的答案是C”这种死记硬背，而是真正的可迁移的程序性知识：
这些规则读起来就像一位经验丰富的领域专家，在埋头工作一天后总结出的心法。它们不是针对某个具体问题，而是针对一类问题的通用解决策略。
六、最实用的价值：技能可以“转校”
这篇论文最有应用价值的部分是技能的迁移能力。
跨模型迁移：在GPT-5.4上训练好的表格处理技能，直接拿给更小的GPT-5.4-mini用，效果依然很好，比它自己从头开始优化还要快。在所有测试案例中，迁移后的技能都优于目标模型的无技能基线。
跨工具迁移：这可能是最令人震惊的结果。在Codex（一个代码执行工具）中训练好的表格处理技能，直接拿到完全不同的Claude Code（另一个工具）里用，竟然让Claude Code在该任务上的准确率从22.1%飙升至81.8%，甚至略微超过了在Claude Code中直接训练的效果（80.4%）。
这意味着什么？你可以用最强（也可能最贵）的模型打磨出一份高质量的“操作指南”，然后这份指南可以直接推广到公司里所有不同规模和类型的AI模型和工具上。一次训练，多处受益，大大降低了适配成本。
七、小结：从“换人”到“培训”
读完整篇论文，我的感受是：有时候，最聪明的办法往往是最朴素的。
我们总以为要让AI进化，就必须给它换一个更大的大脑（扩大模型参数）。但SKILLOPT告诉我们，让AI学会记笔记、做总结、防反复——这些人类学习中最简单有效的方法，在AI身上同样奏效，而且效果惊人。
它的核心价值在于，把AI能力的提升，从“换人”变成了“培训”：
- 不换大脑：目标模型冻结，不修改权重。
- 只换笔记：通过一个受控的、可审计的、类似深度学习的训练流程，优化一个紧凑的文本文件。
- 笔记可复用：这份笔记可以跨模型、跨工具、跨任务迁移。
对于AI从业者和高级用户来说，这提供了一条实用的路径：与其不断寻找更强的AI，不如学会如何系统性地训练手边的AI，让它从自己的错误中归纳出可复用的规则。 而SKILLOPT，提供了一个严谨的方法论框架。
参考：SkillOpt: Executive Strategy for Self-Evolving Agent Skills