论文链接：arxiv.org/abs/2608.07056 HTML 全文：arxiv.org/html/2608.07056v1 发表时间：2026 年 8 月 机构：Yash Priya Shastri, Anand Eswaran, Adnan Qidwai, Pankaj Thorat, Sachin Joshi 领域标签：cs.AI（人工智能）、Skill Optimization、Monte Carlo Tree Search、Prompt Optimization、Frozen Agent
一、论文背景
1.1 什么是"冻结 Agent"和"技能（Skill）"？
近两年的大语言模型生态出现了一个非常重要的趋势：权重冻结（frozen）的智能体。
什么叫冻结？就是模型的参数（权重）不再更新。它不能再通过梯度下降、不能再通过微调去"学会"任何新东西。你可能要问：那它怎么变强？答案只有一个——通过文字告诉它怎么做。
这种文字在本文里有一个专门的名字：技能（Skill）。但要注意，技能不是一段简单的"你是友好的助手"式的提示词模板，作者强调：
“A skill is less a prompt template than a short field manual, stating which library to reach for, which edge cases cause failures, and what to verify before returning an answer.”
也就是说，技能更像一本简短的岗位操作手册：该用哪个库、哪些边界情况会导致失败、返回答案前要核验什么。
为什么这件事重要？因为在权重固定的情况下，技能是优化器唯一能触碰的对象，每一分准确率都必须用散文（prose）来购买。优化技能，本质上就是在优化一段自然语言文档，让它在有限任务集上拿到更高的分数。这是一个"用文本编程"的过程。
1.2 为什么优化一段文本这么难？
你可能觉得：让一个强模型读一读失败案例、改一改文档，分数上升了就保留，这听起来很简单。事实上，这就是业界标准做法——编辑-测试循环：展示模型失败的地方，让它重写文档，当验证分数上升时保留重写。
但作者指出了这个循环的一个致命盲区：
“A validation score is one number over a finite task set, so two documents that score alike may be quite different objects, one resting on a broad plateau that further edits keep improving, the other on a narrow spike the next edit displaces.”
这段话翻译过来：验证分数只是有限任务集上的一个数字。两个同样得 80 分的文档，可能处在完全不同的地形上：
- 一个在宽广的平台（plateau）上：它附近的重写仍然能拿到接近 80 分，继续编辑还能稳步改进；
- 另一个在狭窄的尖峰（spike）上：它恰好"记住"了验证集的某些特异性，下一次编辑就会让它掉下来——这是个死胡同。
问题在于：分数本身根本无法区分这两种文档。而一旦你把搜索预算花在尖峰上，你就在做无用功。
1.3 现有方法为什么解决不了？
当时最先进的两种技能优化方法各有各的局限：
GEPA（反思性提示进化）：维护一个"帕累托前沿"的候选集，保留在验证实例上"互不支配"的提示。但它的多样性概念是实例多样性（instance diversity）——一个候选因为它在有限验证集的某些子集上表现异常而存活。这恰恰鼓励了"记住验证集特异性"的提示，也就是在鼓励尖峰。
SkillOpt（可训练技能状态）：把技能当作一个可训练的状态，像深度学习里沿着单一轨迹推进，但一旦走开就回不来，无法重新审视已经离开的区域。更关键的是，它的编辑聚合是证据盲的——合并和排序编辑时只看到编辑文本和理由，看不到产生这些编辑的轨迹。
两者的共同问题：都基于点估计做决策。也就是说，它们只看文档当下的那个分数，不看文档周围的地形。
1.4 本文的灵感来源
作者从两个成熟领域汲取了灵感：
- 优化理论：深度学习中，平坦的最小值（flat minima）通常比尖锐的最小值（sharp minima）泛化更好。因为平坦意味着对参数小扰动鲁棒。
- 演化生物学：可进化性（evolvability）——一个谱系持续产生有用变体的能力——被视为与当前适应度（fitness）独立的属性。最健壮的生物不一定今天最强，但它最有可能在变异后继续繁荣。
这两个灵感都指向同一个洞察：当前表现好 ≠ 未来还能变好。要优化技能，不能只看它今天多高，要看它"周围的地形"有多宽广。
二、论文定位和关联工作
本论文处在**指令/提示优化（Instruction/Prompt Optimization）**这一研究脉络中。这个领域大致可以分为三条线。
2.1 谱系一：搜索改写与编辑
这类方法把"找好提示"当作一个搜索问题：在可能的提示空间里做改写、评估、保留。
- APE（Zhou et al. 2023, ICLR）：LLMs Are Human-Level Prompt Engineers，让模型自动生成、筛选提示，首次系统化"提示工程自动化"。
- OPRO（Yang et al. 2024, ICLR）：LLMs as Optimizers，让 LLM 自己作为优化器，把元提示（含历史分数）喂进去迭代改进。
这些方法奠定了"文本即优化对象"的范式，但它们的评估都是点估计——只看当前分数，没有"邻域"概念。
2.2 谱系二：迭代自修订
- Self-Refine（Madaan et al. 2023, NeurIPS）：模型对自己的输出做反思并提出改进。
GEPA 继承了这条线，把"反思"机制升级为对文档的反思性变异。但如前述，它的帕累托前沿是基于有限验证实例定义的，多样性是"实例级"的。
2.3 谱系三：编译模块化程序
- DSPy（Khattab et al. 2024, ICLR）：把提示/程序当作可编译、可优化的模块，用梯度下降式的理念去搜索参数。
SkillOpt 是这条线的延伸——把技能视为"可训练状态"，引入学习率上限和验证门控，类似深度学习中的有界更新。
2.4 BONSAI 的定位
下表把 BONSAI 与最接近的两个系统做系统对比：
| 维度 | GEPA | SkillOpt | BONSAI |
|---|---|---|---|
| 变异方式 | 反思性变异 | 反思小批量轨迹 | 反思性变异 + GRAFT 跨谱系转移 |
| 多样性概念 | 实例多样性（验证集上的帕累托前沿） | 无（单一轨迹） | 变异鲁棒性（优化地形的内在属性） |
| 决策依据 | 点估计 | 点估计 + 验证门控 | 区域可进化性（邻域平均适应度） |
| 回访能力 | —— | 无法回访已离开区域 | 可以回访早期区域（树结构） |
| 编辑组合 | —— | 编辑合并+排序（证据盲） | 单一基于事实的重写 |
| 成本（测量可进化性） | 无此概念 | 无此概念 | 免费（复用已支付的 rollout） |
定位结论：BONSAI 是首个把"可进化性"这个生物学/优化理论概念引入技能搜索的方法。它的根本突破不在于"换了一种变异算子"，而在于换了一种决策信号——从"这个文档今天多好"转向"这个文档所在的区域能不能持续产出更好的后代"。
三、问题定义
3.1 从具体场景出发
考虑这样一个具体场景：你有一个冻结的 30B Agent（执行者），它要在电子表格任务上写 Python 脚本。你给它一本"操作手册"（技能），它在验证集上得了 20 分。现在你有 2400 次 rollout 的预算，要把它提到尽可能高的分数。
最自然的抽象是：给定一个评分函数 v(·) 和一个 rollout 预算 R，在文档空间里找到一个 v 最大的技能。这就是标准的黑盒优化问题，GEPA 和 SkillOpt 都在解它。
3.2 核心洞察：分数是地形的一个采样点，不是地形本身
但作者发现了更深层的结构相似性：技能优化 ≈ 在一个未知地形上做搜索。这个类比的对应关系如下：
| 深度学习训练 | 技能优化 |
|---|---|
| 参数空间 $\mathbb{R}^d$ | 文档空间（所有自然语言技能） |
| 损失函数（可微） | 验证分数（不可微，黑盒） |
| 梯度（告诉你每一步往哪走） | 无梯度（只能采样） |
| 损失景观（loss landscape） | 文档分数景观 |
| 平坦 vs 尖锐最小值 | 平台 vs 尖峰 |
| 训练轨迹 | 变异谱系（树的一条分支） |
在深度学习里，我们早就知道平坦的最小值泛化更好。对应到技能优化：宽广的平台比狭窄的尖峰更值得投入预算，因为平台上的继续变异还能进步，尖峰上的一编辑就塌。
3.3 形式化问题定义
给定：
- 一个冻结的执行者模型 $M_e$
- 一个优化器模型 $M_o$（也冻结）
- 一个种子技能 $s_0$（根文档）
- 划分好的 train / validation / test 三个任务集
- rollout 预算 $R$（每次 rollout = 执行者在单个任务上尝试一次）
求：一个搜索策略 $\pi$，在预算 $R$ 内产生一棵技能树，使得最终发布的文档 $\arg\max_n v(n)$ 在 test 集上的分数最大化。
核心约束：测量"可进化性"的成本不得超过搜索本身已经支付的代价。也就是说，你想要看邻域，但不能为了看邻域额外花预算——这必须是一个"免费搭车"的信号。
3.4 这个抽象的精妙之处
这个抽象的精妙在于：它把"找好文档"这个工程问题，重新框定为"在一个未知地形上聪明地分配搜索预算“的问题。一旦这样看，问题就不再是"我的变异算子好不好”，而是"我的搜索策略把预算投到了尖峰还是平台"。这个视角的转换，直接指向了蒙特卡洛树搜索（MCTS）这个工具——MCTS 天生就是为"在未知地形上分配探索-利用预算"而设计的。
四、问题解法
BONSAI 的解法可以用一句话概括：把技能生长成一棵蒙特卡洛树，用可进化性引导这棵树往哪长。下面按组件拆解。
4.1 两个角色：执行者与优化器
| 角色 | 功能 | 模型 | 训练状态 | 温度 |
|---|---|---|---|---|
| 执行者（Performer） | 读技能、尝试任务、被自动评分 | granite-4.1-30b | 冻结 | 0 |
| 优化器（Optimizer） | 读执行者的失败尝试、返回重写的技能 | DeepSeek-V3.2 | 冻结 | 0.7 |
优化器看到的每次"尝试"包含：任务本身、执行者给的答案、答案为什么错。注意，两个模型都不训练——所有优化都发生在文本层面。
4.2 树结构：把无序文档集变成有邻域的空间
这是整个方法最关键的一个构造选择：
“This single construction choice is what the remainder of the method rests upon: it converts an unordered collection of candidate documents into a space with neighbourhood structure, and a neighbourhood is something that can be measured.”
- 根节点：固定的种子文档 $s_0$
- 边（从 $n$ 到 $c$）：$c$ 是通过对 $n$ 做一次反思性重写（变异）产生的
为什么这件事重要？因为一旦文档之间有了"父子"关系，一个文档就不再是一个孤立的点，它有了邻居。而邻居这个东西，是可以测量的。这是后续一切可进化性计算的基石。
4.3 可进化性：免费的自改进估计器
适应度：$v(n)$ = 文档 $n$ 在验证集上的分数。这是个点估计——只告诉你"今天多好"。
可进化性：一个区域能不能持续产出好后代。形式化定义为 $\epsilon(s) = \mathbb{E}[v(s')]$，期望在从 $s$ 变异产生的所有后代 $s'$ 上取值。
但区域是无界的，$\epsilon$ 没法直接读。BONSAI 的关键技巧是用**谱系（Lineage）**来近似：
$$\mathcal{L}(n) = \{n\} \cup \text{desc}(n) \quad \text{（n 自己 + 它的所有后代）}$$$$Q(n) = \frac{1}{m(n)} \sum_{s \in \mathcal{L}(n)} v(s) \quad \text{(公式 1)}$$这里 $m(n)$ 是谱系里已经评分的成员数。
为什么说是"免费的"？ 因为公式 1 里的每一项 $v(s)$，都是搜索过程中本来就要算的验证分数——没有一次额外的模型调用。这是 BONSAI 相对于 GEPA/SkillOpt 的一个根本优势：它测量了一个别人根本没测量的东西，却没多花一分钱。
为什么说是"自我锐化的"？ 因为每次在 $n$ 下扩展一个子节点，就向 $Q(n)$ 多加一个样本。也就是说，探测最密集的节点，恰恰是其可进化性估计变得最精确的节点——这是正向循环。
4.4 脆性指标：识别尖峰
光有 $Q$ 还不够，作者还定义了一个用来识别尖峰的量：
$$\sigma(n) = v(n) - Q(n) \quad \text{(公式 2)}$$直觉很清晰：
| $\sigma$ 的值 | 含义 | 对策 |
|---|---|---|
| 大的正值 | 文档自己很高，但后代都低 → 脆弱的尖峰 | 不值得继续投入 |
| $\leq 0$ | 文档是邻域的典型代表，甚至被后代超越 → 可进化区域 | 值得继续探索 |
4.5 蒙特卡洛树搜索的四步循环
BONSAI 的主循环就是标准 MCTS 的四步：选择、扩展、接受/拒绝、备份。但每一步都被改造成了"可进化性引导"的版本。
第一步：选择（Selection）—— UCB 选择规则
从根节点出发，每层都挑 UCB 分数最高的子节点往下走：
$$U(s) = \underbrace{v(s)}_{\text{①自身适应度}} + \lambda \underbrace{(Q(s) - v(s))}_{\text{②可进化性增量}} + c \underbrace{\sqrt{\frac{\ln N(p)}{N(s)}}}_{\text{③探索奖励}} \quad \text{(公式 3)}$$三项的含义：
| 项 | 含义 | $\lambda$ 的作用 |
|---|---|---|
| ① $v(s)$ | 技能自身的验证分数 | 始终保留 |
| ② $\lambda(Q(s) - v(s))$ | 可进化性值与自身适应度的差 | $\lambda=1$：利用项恰好是 $Q$，可进化性引导搜索；$\lambda=0$：退化为普通适应度 |
| ③ $c\sqrt{\ln N(p)/N(s)}$ | 标准探索奖励（UCB1） | 保证弱区域也有机会被访问 |
关键超参数：全文使用 $\lambda = 1$，即让可进化性 $Q$ 完全主导利用项。利用项会通过树中记录的最小/最大适应度重新归一化到 $[0,1]$（从 MuZero 改编），让探索常数 $c$ 无尺度——分数聚集在 10% 或 90% 附近时表现一致。
第二步：扩展与接受（Expansion & Acceptance）
优化器提出一个子文档 $c$。接受的条件是：$c$ 必须在产生这次编辑的那个训练批次上严格改进：
$$\sum_{i \in B} g_i(c) > \sum_{i \in B} g_i(n) \quad \text{(公式 4)}$$注意一个细节：判断用的是产生编辑的那个批次，不是整个验证集。作者的用意是"让验收测试与编辑背后的证据对齐"——在哪个批次上看到失败，就在哪个批次上验证改进。
接受的子节点才会在完整验证集上评分，获得 $v(c)$。
第三步：备份（Backup）—— 接受与拒绝的不对称
这是 BONSAI 一个非常精巧的设计。被接受的子节点和被拒绝的变异走两套不同的备份规则：
| 情况 | 访问计数 $N$ | 谱系计数 $m$ | 累积分数 $W$ | 含义 |
|---|---|---|---|---|
| 接受 | $+1$ | $+1$ | $+v(c)$ | 这个区域被证明是好的，记录证据 |
| 拒绝 | $+1$ | 不变 | 不变 | 失败只告诉你"别往这看"，它不是区域质量的样本 |
“A failure indicates where not to look. It is not a sample of a region’s quality.”
为什么不能把拒绝也算成一个低分样本？因为那样的话，连续失败的写入会压低一个从未被证明更差的区域的估计——你在惩罚一个还没被好好探索的地方。把 $m$ 和 $N$ 两个计数器分开，就是为了让失败只影响"访问频率"（影响探索项），不影响"区域质量估计"（影响利用项）。
第四步：渐进扩展（Progressive Widening）
一个节点能有多少子节点，随它产生的值样本数 $m$ 次线性增长：
$$|\text{children}(n)| < \lceil c_w \, m(n)^{\alpha} \rceil, \quad 0 < \alpha < 1 \quad \text{(公式 7)}$$这里 $c_w = 1, \alpha = 1/2$。这是处理"动作空间无限"的标准技巧。
关键设计：公式 7 键在 $m$（值样本数）而不是 $N$（访问数）上。因为连续被拒绝的变异会提高 $N$ 但不提高 $m$，所以节点永远不会通过"一直失败"来重新获得更多子节点——你必须真的生出已评分的后代，才能赢得继续扩展的资格。
4.6 发布：把引导和发布分离
预算用完时，BONSAI 发布的是：
$$n^* = \arg\max_n v(n) \quad \text{（普通最高适应度的文档）}$$注意：可进化性只决定预算往哪花，不决定最后发布谁。作者刻意把这两件事分开。为什么？因为任何"用脆性惩罚文档"的发布规则，都会惩罚被探测得最多的节点——一个被充分探测的节点才有可见的 $\sigma$，而未探测的叶子有 $Q = v$，没有差距要收。也就是说，惩罚 $\sigma$ 的发布规则会奖励无知。
4.7 GRAFT：非对称的跨谱系能力转移
到这一步为止，BONSAI 还有一个潜在问题：能力可能最终分散在不同分支里。树的一支学会了处理某一类任务，另一支还在失败。普通变异解决不了这个问题，因为优化器只看到选中的那个文档和它自己的失败批次，它无从知道缺失的技术已经在树的其他地方存在。
GRAFT 就是为这个问题设计的非对称能力转移算子。可以把它理解成"树之间的器官移植"：
GRAFT 与普通变异的对比：
| 维度 | 普通变异 | GRAFT |
|---|---|---|
| 证据来源 | 单一文档 + 它自己的失败批次 | 选中节点 A + 跨谱系供体 B |
| 目标 | 重写 A | 用 A 的术语重述 B 的技术 |
| 供体角色 | 无 | 充当"证据"而非"血统"——不接收访问也不接收值样本 |
| 触发条件 | 每次扩展都做 | 仅当 B 在 A 之上胜出的任务数 $ |
安全门控（为什么不会搞坏 A）：
- 有效载荷 $B^+$：$\{i : C_B(i) > C_A(i)\}$，B 在 A 之上胜出的任务（A 缺的能力）
- 护栏 $A^+$：$\{i : C_A(i) > C_B(i)\}$，A 在 B 之上胜出且不得丢失的任务
- 成员资格用的是每任务分数比较，不是"解决/未解决"的二元截止——这样部分信用能正确转移
子节点 $c$ 只有在同时满足以下条件时才被接纳（公式 8）：
$$\sum_S g(c) > \sum_S g(A) \quad \text{且} \quad g_i(c) \geq g_i(A) \quad \forall i \in A^+ \cap S$$第一个条件是常规接受规则；第二个条件让操作符安全——$A^+$ 按构造是 A 比 B 强的任务，单纯复制 B 的子节点在这些任务上不可能超过 A，会被拒绝。这是单侧门控：完全支配 A 的供体（信息量最大）会被接受，对称标准反而会拒绝它。
4.8 完整算法一览
| 步骤 | 做什么 | 公式 |
|---|---|---|
| 1. 初始化 | 种子文档作为根，评分 $v(\text{root})$，播种第一层 | —— |
| 2. 选择 | 从根按 UCB 下降到渐进扩展限制的节点 | (3), (7) |
| 3. 扩展 | 优化器重写文档，训练批次上评分 | —— |
| 4. 接受？ | 训练批次上严格改进则接受，否则拒绝 | (4) |
| 5. 备份 | 接受则备份值+访问；拒绝则只备份访问 | (5), (6) |
| 6. 发布 | 预算耗尽，发布 $\arg\max v(n)$ | —— |
GRAFT 作为可选的扩展操作符，在某些迭代中替代第 3 步的普通重写，触发条件由跨谱系任务分数记录自动判定。
五、评估指标与实验证据
5.1 三个基准：覆盖三种不同的"技能优化"场景
| 基准 | 任务描述 | 评分方式 | train / val / test |
|---|---|---|---|
| SpreadsheetBench | 自然语言指令 + 输入 .xlsx 工作簿；执行者写 Python 脚本在沙箱执行，逐单元格比对 | 客观自动评分 | 80 / 40 / 280 |
| SearchQA | 测验式问题 + 检索段落；执行者返回简短答案 | 精确匹配（标准归一化） | 400 / 200 / 1400 |
| LiveMathematicianBench | 数学陈述 + 5 个候选答案，恰好一个正确 | 精确匹配 | 60 / 60 / 57 |
为什么选这三个？它们分别代表了三种不同的能力维度——代码生成与表格操作、开放域问答、数学推理——能有效区分不同搜索策略的优劣。三个基准的"种子技能效用"差异巨大：SearchQA 上种子几乎没用（72.43% vs 无技能 72.50%），而 LiveMathematicianBench 上种子就涨了 10 个点——这种差异让结论更有说服力。
5.2 评估指标体系
| 指标 | 定义 | 角色 |
|---|---|---|
| 精确匹配准确率（主指标） | test 集上答对的比例 | 唯一引导搜索和报告的指标 |
| 部分信用 | 计算并记录 | 从不引导搜索，只做诊断 |
| $Q$（可进化性值，辅助） | 谱系平均适应度 | 引导选择（消融用） |
| $\sigma$（脆性，辅助） | $v - Q$ | 诊断地形结构 |
唯一目标是精确匹配——这是个非常"硬"的指标，不容许半对。每个报告结果是 seed 42 下的单次运行。
5.3 主结果：三基准平均 +23.13 点
| 基准 \ 方法 | 无技能 | 种子技能 | GEPA | SkillOpt | BONSAI | BONSAI+GRAFT |
|---|---|---|---|---|---|---|
| SpreadsheetBench | 7.50% | 17.50% | 21.07% | 20.00% | 23.21% | 25.00% |
| SearchQA | 72.50% | 72.43% | 78.29% | 75.57% | 79.00% | 78.93% |
| LiveMathematicianBench | 17.74% | 28.23% | 56.14% | 59.65% | 64.91% | 63.16% |
关键结论：
- 相比无技能 Agent：三基准平均提升 +23.13 点
- 相比 GEPA：平均提升 +3.87 点（SpreadsheetBench +2.14，SearchQA +0.71，LiveMathematicianBench +8.77）
- 相比 SkillOpt：平均提升 +3.97 点
- SearchQA 的诊断价值：种子技能几乎无效（甚至 -0.07），所以 BONSAI 在这里的全部 +6.5 点提升完全归因于搜索策略本身，排除了"种子好"的混淆
- GRAFT 的差异化表现：在 SpreadsheetBench 上活跃（23.21% → 25.00%），但在另外两个基准上因谱系趋同而很少触发——说明 GRAFT 是一个条件触发的补强，不是普遍必需
5.4 消融实验：可进化性信号到底值多少分？
这是整篇论文最关键的实验设计。作者要证明：增益不是来自"树结构"或"GRAFT"，而是来自可进化性信号本身。
实验方法：固定同一棵树、同一套接受规则、同一个 $\arg\max v$ 发布，只改一个东西——UCB 利用项：
- $\lambda = 1$：利用项为 $Q$（可进化性）
- $\lambda = 0$：利用项为 $v$（原始适应度）
| 基准 | $\lambda=1$（可进化性） | $\lambda=0$（贪心） | $\Delta$ |
|---|---|---|---|
| SpreadsheetBench | 23.21 | 20.00 | +3.21 |
| SearchQA | 79.00 | 76.86 | +2.14 |
| LiveMathematicianBench | 64.91 | 57.89 | +7.02 |
这个实验为什么能证明论点？ 因为它隔离了唯一的变量——决策信号。树结构、变异算子、接受规则、发布规则全部相同，唯一区别是"选择节点时看 $v$ 还是看 $Q$"。三基准上一致地涨了 2～7 个点，这直接证明了可进化性信号本身（而不是 BONSAI 的其他工程细节）是增益的根源。
机制证据：作者还对比了贪心和可进化性选择"在运行多深处发现最佳验证分数"：
| 基准 | 贪心最佳验证分数（迭代） | 可进化性最佳验证分数（迭代） |
|---|---|---|
| SearchQA | 0.760（迭代 13） | 0.775（迭代 23） |
| LiveMathematicianBench | 0.700（迭代 16） | 0.750（迭代 43） |
| SpreadsheetBench | 0.200（迭代 20） | 0.275（迭代 95） |
贪心在早期达到验证峰值后停滞，剩余预算花在不再改进的区域；可进化性选择在运行更深处持续发现更高分的文档。这就是"把钱投到平台而非尖峰"的直接证据。
5.5 预算集中度：搜索把钱花在哪？
以 SpreadsheetBench 的一次运行为例：
| 指标 | 数值 | 含义 |
|---|---|---|
| 总文档数 | 32 | 树只有 32 个节点 |
| 变异提案总数 | 131 | 131 次尝试 |
| 被接受 | 31/131（约 24%） | 接受率 |
| 树深度 | 4 | 最深的分支 |
| 最常访问的 5 个节点占比 | 58% | 预算高度集中 |
| $\sigma \leq 0$ 的节点 | 27/32（84%） | 绝大多数节点处于可进化区域 |
最后一行特别有意思：84% 的节点 $\sigma \leq 0$，说明 BONSAI 把预算集中投到了可进化区域（平台），而不是脆弱的尖峰。这正是方法设计的目标。
六、效果优势的根源解释
这一节我们回答：为什么 BONSAI 在上述指标上系统性优于 GEPA 和 SkillOpt？ 不是"因为它用了 MCTS"，而是从机制因果上讲清楚，它的每一个设计选择如何改变了信息流和约束，最终体现在分数上。
6.1 明确对比对象：baseline 曾经为什么有效
GEPA 的有效性来自反思性变异 + 帕累托前沿。它保留了在验证实例上互不支配的候选，让不同候选在不同任务子集上各自强势。这比"只留最高分"好，因为它保留了多样性。
SkillOpt 的有效性来自有界更新。它把技能当作可训练状态，引入学习率上限和验证门控，像深度学习一样沿着单一轨迹平滑推进，避免了剧烈重写带来的退化。
6.2 定位 baseline 的根本局限
| Baseline | 根本局限 | 局限导致的不可逾越障碍 |
|---|---|---|
| GEPA | 多样性是实例多样性——候选因为在有限验证集的子集上异常而存活 | 鼓励"解释验证集特异性"的提示 → 鼓励尖峰；预算越多，收集的尖峰越多，但都不可持续改进 |
| SkillOpt | 单轨迹推进，无法回访已离开区域；编辑聚合证据盲（不看轨迹） | 一旦走过一个好区域就永远丢失；合并编辑时丢失上下文，无法判断"这个编辑为什么有效" |
| 两者共同 | 基于点估计做决策 | 只看"今天多好"，不看"地形多宽"——无法区分平台和尖峰 |
6.3 追溯 BONSAI 的根本性改变
下面建立从方法差异到机制变化到指标提升的完整因果链。
因果链 1：树结构 → 有邻域 → 可测量可进化性 → 预算投向平台
| 环节 | 描述 |
|---|---|
| 方法差异 | BONSAI 把文档组织成父子树（变异产生边），GEPA 维护无序集合 |
| 机制变化 | 无序集合里每个文档是孤立点；树结构让每个文档有了邻居（后代），邻居的分数构成区域信息 |
| 缓解瓶颈 | GEPA 的点估计无法区分平台和尖峰；BONSAI 用 $Q$（谱系平均）直接估出了"区域可进化性" |
| 指标体现 | 消融实验中 $\lambda=1$（用 $Q$）vs $\lambda=0$（用 $v$），三基准一致 +2.14～+7.02 点 |
关键反事实：如果去掉树结构（退化为无序集），就根本无法定义 $Q$，可进化性信号不存在。这就是为什么这个构造选择被作者称为"整个方法所依赖的唯一基石"。
因果链 2：接受/拒绝不对称备份 → 失败不污染区域估计 → 早期区域保持吸引力
| 环节 | 描述 |
|---|---|
| 方法差异 | BONSAI 接受时备份 $N, m, W$；拒绝时只备份 $N$，不动 $m, W$ |
| 机制变化 | 失败只影响访问频率（探索项），不影响区域质量估计（利用项 $Q$） |
| 缓解瓶颈 | SkillOpt 的单轨迹一旦离开就无法回访；BONSAI 的探索项保证弱区域仍被访问，且失败不会压低它的 $Q$，所以早期好区域始终保持被重新发现的可能 |
| 指标体现 | 贪心选择在迭代 13～20 后停滞；可进化性选择在迭代 23～95 仍持续改进——说明搜索在"走开后回来" |
因果链 3：可进化性引导 vs 贪心 → 预算分配的根本差异
这一条链最能说明"为什么不是凑巧好，而是结构上必然更好"。
贪心选择（$\lambda=0$）的行为：UCB 利用项是 $v$，每次都挑当前验证分数最高的节点扩展。这导致一个必然结果——一旦某个节点达到验证峰值，后续所有预算都投向它附近。但这个峰值可能恰恰是尖峰：它的后代分数会下降，于是搜索在峰值附近打转，无法突破。
可进化性选择（$\lambda=1$）的行为：UCB 利用项是 $Q$（谱系平均）。一个自身分数高但后代都低的尖峰节点，它的 $Q$ 会被后代拉低，$\sigma > 0$，于是 UCB 分数下降，搜索转向别处。反之，一个自身分数中等但后代持续进步的平台节点，它的 $Q$ 会升高，吸引更多预算。这是结构上的必然：用 $Q$ 而非 $v$ 做利用，就是在数学上奖励平台、惩罚尖峰。
指标验证：SpreadsheetBench 上 $\sigma \leq 0$ 的节点占 84%（27/32），证明预算确实集中投到了可进化区域。消融实验三基准一致 +2.14～+7.02 点，证明这个信号值这么多分。
因果链 4：渐进扩展键在 $m$ → 失败不能买子节点 → 节点必须"证明自己"才能扩展
| 环节 | 描述 |
|---|---|
| 方法差异 | 渐进扩展上限键在 $m$（值样本数）而非 $N$（访问数） |
| 机制变化 | 连续失败的变异提高 $N$ 不提高 $m$，所以节点永远无法通过失败重新开放 |
| 缓解瓶颈 | 防止搜索在一个无法改进的区域反复尝试、浪费预算 |
| 指标体现 | 接受率仅 24%（31/131），但 32 个文档就达到 23.21%——说明每个被接受的节点都是"有效证据" |
因果链 5：引导与发布分离 → 不奖励无知 → 最终发布最优
| 环节 | 描述 |
|---|---|
| 方法差异 | BONSAI 用 $Q$ 引导搜索，但用 $\arg\max v$ 发布 |
| 机制变化 | 任何用 $\sigma$ 折扣发布的规则都会惩罚被探测最多的节点（因为只有被探测才有可见 $\sigma$） |
| 缓解瓶颈 | 避免"奖励无知"——未探测的叶子有 $Q=v$ 没有差距，惩罚 $\sigma$ 等于奖励不探测 |
| 指标体现 | 发布的是纯最高适应度文档，test 集分数稳定反映搜索质量 |
6.4 反事实总结
| 去掉的设计 | 退化的结果 | 反证 |
|---|---|---|
| 去掉树结构 | 无法定义 $Q$，退化为 GEPA 式点估计 | 消融 $\lambda=0$：-2.14～-7.02 点 |
| 去掉接受/拒绝不对称 | 失败污染区域估计，弱区域被过早放弃 | 贪心在迭代 13～20 停滞 |
| 把渐进扩展键在 $N$ 而非 $m$ | 失败能买子节点，预算浪费在死胡同 | —— |
| 把发布也用 $Q$ 引导 | 奖励无知，发布次优文档 | 作者明确论证为何不可 |
根源结论：BONSAI 的优势不是来自某个单独的工程技巧，而是来自决策信号的根本转换——从"文档今天的分数"转向"文档所在区域的进化潜力"。这个转换让搜索预算从尖峰转向平台，而平台是唯一能持续改进的地方。这是结构上的必然，不是凑巧。
七、必要知识反推
假设找一个完全没有知识和信息的人去做这个工作，他必须了解什么？我们按层次反推。
7.1 领域知识层：研究对象的基本运作机制
| 必须知道 | 为什么必须 |
|---|---|
| 冻结 Agent 与技能的关系 | 不理解"权重固定、只能靠文本"，就无法理解为什么要优化文档而非训练模型 |
| 技能不是提示模板，是操作手册 | 决定了变异操作的颗粒度——不是改一句话，是增删整段技术指导 |
| 验证分数是有限任务集上的一个数字 | 这是整个"点估计盲区"问题的根源，不理解就无法理解动机 |
| 三个基准的评分机制（电子表格逐单元格比对、QA 精确匹配、数学多选） | 决定了接受测试和评估的可靠性边界 |
7.2 方法论知识层：研究脉络与优化理论
| 必须知道 | 为什么必须 |
|---|---|
| GEPA 的帕累托前沿机制 | 这是 BONSAI 的直接对比对象，不理解就不知道"实例多样性"的局限 |
| SkillOpt 的单轨迹推进与证据盲聚合 | 这是另一个直接对比对象，不理解就不知道"可回访"的价值 |
| 蒙特卡洛树搜索（MCTS）的四步循环 | BONSAI 的整个算法骨架就是 MCTS，UCB 选择、渐进扩展都是 MCTS 的标准组件 |
| UCB1 公式与探索-利用权衡 | 公式 3 的第三项直接来自 UCB1，不理解就无法调参 $c$ |
| MuZero 的运行归一化 | 利用项的归一化从 MuZero 改编，不理解就无法解释"为什么 $c$ 是无尺度的" |
| 渐进扩展（Progressive Widening） | 公式 7 是处理无限动作空间的标准技巧 |
| 优化理论中平坦 vs 尖锐最小值 | 这是"平台 vs 尖峰"类比的理论源头 |
| 演化生物学中的可进化性概念 | 这是论文核心概念的命名来源和直觉基础 |
7.3 工程知识层：系统实现与评估
| 必须知道 | 为什么必须 |
|---|---|
| 执行者与优化器的双模型架构 | 决定了 rollout 的成本结构——每次扩展至少要调用一次优化器 + 若干次执行者 |
| train/val/test 一次性划分的纪律 | test 只在最后碰一次，是结果可信的保障 |
| 接受测试在训练批次而非验证集上做 | 这个细节决定了"证据与编辑对齐"，不理解会误以为应该在验证集上判接受 |
| rollout 预算的计量（一次 rollout = 执行者在单个任务上一次尝试） | 这是 GEPA/SkillOpt 公平对比的基准 |
7.4 知识融合的关键节点
| 融合节点 | 哪些知识在此"化学反应" |
|---|---|
| “把变异组织成树” | MCTS 的树结构 + 演化生物学的谱系概念 + 技能优化的变异操作——三者碰撞出"邻域可测量" |
| "$Q$ 是免费的可进化性估计" | MCTS 的备份机制 + 可进化性的区域属性 + 工程上的预算约束——三者碰撞出"不加预算就能测区域" |
| “接受/拒绝不对称备份” | MCTS 的访问计数 + “失败不是区域质量样本"的洞察 + 防止区域被过早放弃——三者碰撞出双计数器设计 |
| “引导与发布分离” | 优化理论的平坦最小值 + MCTS 的 $\arg\max$ 发布 + “惩罚 $\sigma$ 会奖励无知”——三者碰撞出刻意的关注点分离 |
这些节点不是知识的简单叠加，而是在"如何低成本地测量并利用区域信息"这个核心问题上的创造性综合。
八、论文中可以提取的通用性灵感
灵感 1：决策信号 ≠ 结果指标——引导用什么，发布用什么，要分开
核心思想：在优化过程中，用于引导搜索的信号和用于最终选择的信号可以（且常常应该）不同。BONSAI 用可进化性 $Q$ 引导，但用 $\arg\max v$ 发布。
论文证据：第 4.4.5 节明确论证——任何用脆性 $\sigma$ 折扣发布都会奖励无知（未探测的叶子没有 $\sigma$ 差距）。消融实验证明引导用 $Q$ 比用 $v$ 涨 2～7 个点。
推广场景：
- 强化学习：用探索奖励引导训练，但用贪婪策略部署
- 推荐系统：用多样性信号引导候选生成，但用点击率排序最终展示
- 代码搜索/程序合成：用类型兼容性引导搜索，但用测试通过率选择最终程序
- 人才选拔：用"学习潜力"引导培养资源分配，但用"当前产出"决定晋升
灵感 2：免费信号——搜索的副产品往往能测到主信号测不到的东西
核心思想：搜索过程产生的副产品（这里是每个子节点的适应度），经过巧妙组织，可以免费估计一个主信号（单点适应度）无法测量的量（区域可进化性）。
论文证据：公式 1 的 $Q$ 是谱系平均适应度，每一项都是搜索已经支付的 rollout，测量它不需要任何额外模型调用。这是 BONSAI 相对 GEPA/SkillOpt 的根本优势——它测了一个别人没测的量，却没多花钱。
推广场景：
- 深度学习训练：梯度的方差/二阶矩是训练的副产品，可以免费估计损失 landscape 的曲率，用于自适应学习率
- A/B 测试：实验中的"未转化用户行为路径"是副产品，可以免费估计用户体验的瓶颈
- 推荐系统：用户未点击的候选是副产品，可以免费估计用户兴趣的"邻域宽度”
- 科研探索：失败实验的记录是副产品，可以免费估计某个研究方向的"可拓展性"
灵感 3：失败只告诉你"别往哪看"，不是"那有多差"
核心思想：在搜索/优化中，失败（拒绝）和成功（接受）的信息价值是不对称的。失败只标识一个不该继续的方向，它不是对区域质量的采样。把失败当作低分样本会系统性地低估未被好好探索的区域。
论文证据：公式 5 vs 公式 6 的不对称备份——拒绝只 $+1$ 访问计数，不动值累积。作者明确说"A failure indicates where not to look. It is not a sample of a region’s quality."
推广场景：
- 错误分析/事故调查：一次事故不代表整个系统都很差，它只标识了一个薄弱环节
- 风控/信用评估：一次违约不等于"这个客户永远不还钱"，要区分"系统性风险"和"偶发事件"
- 科研中的阴性结果：一个假说被拒绝不等于"整个方向没价值"，可能只是参数没调对
- 团队管理：一次项目失败不等于"这个团队不行"，要看它是否在可改进的区域
灵感 4：回访能力——单轨迹优化必然丢失好区域
核心思想：任何单轨迹的优化方法（沿一条路走、走开就回不来）都必然丢失曾经经过的好区域。树结构的根本优势之一是保留了回访能力——你可以回到任何一个祖先节点重新分支。
论文证据：SkillOpt 是单轨迹，“无法重新审视它已离开的区域”。BONSAI 的树结构让任何祖先节点都可以被重新选中并扩展。可进化性选择在迭代 23～95 仍持续改进，正是因为它能"走开后回来"。
推广场景：
- 职业规划：不要过早锁死在一条路径上，保留"回到岔路口"的能力
- 版本控制/分支管理：Git 的分支结构让任何提交都可以被重新分叉——比线性版本历史更强大
- 产品迭代：保留历史版本的能力，让"走过的弯路"可以被重新评估
- 决策树/博弈搜索：任何需要"悔棋"的场景都受益于树结构的回访能力
灵感 5：邻域结构是测量一切的基础
核心思想：要把一组对象从"无序集合"变成"可测量的空间"，关键一步是赋予它邻域结构。有了邻域，才能定义区域、平均、梯度、鲁棒性。没有邻域，每个对象都是孤立的点，无法谈论"周围怎么样"。
论文证据：作者把"把变异组织成树"称为"整个方法所依赖的唯一基石"——它把无序文档集变成了有邻域的空间，而邻域是可以测量的。这是所有后续可进化性计算的前提。
推广场景：
- 表征学习：好的 embedding 就是给数据赋予邻域结构，让相似样本靠近——之后所有度量都依赖这个邻域
- 社交网络分析：把人组织成图（边 = 关系），才能谈"社区"、“影响力半径”
- 知识管理：把笔记组织成双向链接图谱（Roam/Obsidian），才能发现知识的"邻域"和聚类
- 城市规划：道路网格（而非散点）定义了可达性邻域，决定了商业/公共设施的选址逻辑
灵感 6：单侧门控——最信息化的情况往往被对称标准拒绝
核心思想：在筛选/接纳决策中，对称标准（要求双方互不侵犯）往往会拒绝信息量最大的情况（一方完全支配另一方）。单侧门控（只保护不该丢失的、接受完全支配的）能捕获更多信息。
论文证据：GRAFT 的接纳条件是单侧的——它接受完全支配 A 的供体（信息量最大），而对称标准会拒绝它。作者明确说"这是最具信息量的情况，对称标准会拒绝它"。
推广场景：
- 人才招聘：一个全面优于现有员工的候选人（信息量最大）应该被接受，而非用"互补性"标准拒绝
- 投资决策：一个在所有维度都更优的项目应该被接受，不必要求"各有千秋"
- 特征选择：一个完全支配（包含）另一个特征的信息量时，应该接受它而非保留冗余
- 方案评审：一个全面更好的方案不必为了"平衡"而妥协——单侧门控更高效
附录：关键公式速查表
| 公式 | 表达式 | 含义 |
|---|---|---|
| (1) | $Q(n) = \frac{1}{m(n)}\sum_{s\in\mathcal{L}(n)} v(s)$ | 可进化性值（谱系平均适应度） |
| (2) | $\sigma(n) = v(n) - Q(n)$ | 脆性（正值 = 脆弱尖峰） |
| (3) | $U(s) = v(s) + \lambda(Q(s)-v(s)) + c\sqrt{\frac{\ln N(p)}{N(s)}}$ | UCB 选择规则 |
| (4) | $\sum_{i\in B}g_i(c) > \sum_{i\in B}g_i(n)$ | 接受测试（训练批次） |
| (5) | $N(a){+}{=}1,\ m(a){+}{=}1,\ W(a){+}{=}v(c)$ | 接受备份 |
| (6) | $N(a){+}{=}1$，$m, W$ 不变 | 拒绝备份 |
| (7) | $\|\text{children}(n)\| < \lceil c_w m(n)^\alpha \rceil$ | 渐进扩展 |
| (8) | $\sum_S g(c) > \sum_S g(A)$ 且 $g_i(c) \geq g_i(A)\ \forall i\in A^+\cap S$ | GRAFT 接纳条件 |
一句话总结：BONSAI 告诉我们，优化一段文本（技能）时，别只看它今天多好——要看它周围的地形有多宽广。而"周围"这件事，通过把变异组织成一棵树，就可以免费测量。这是搜索策略上的一次视角转换：从"找最高点"到"找最宽的平台"。