论文链接:

代码仓库:

发表时间:均为 2026 年 11 月 3 日(arXiv 2611.04277v1 / 2611.05139v1) 机构:

  • Harness-S:上海交通大学(第一单位)、小红书、中关村人工智能研究院、东南大学、CMU——企业-高校合作,小红书参与共同通讯
  • Meta²:University of Maryland(一作+通讯 Furong Huang)、University of Washington、UIUC、Scale AI、All Purpose AI——高校为主加两家公司 领域标签:cs.AI——Agent harness 优化、强化学习、长程智能体

〇、为什么把这两篇放在一起读

这两篇论文同日上线、同题异构,回答的是同一个母问题的两条岔路:当 harness(提示词、工具接口、上下文与记忆机制、执行规则的集合)成为可优化对象之后,优化出来的东西应该以什么形态存在、在什么时机发挥作用?

一条岔路把演化产物固定为可复用的执行支持资源:Harness-S 离线沿不同修复方向分支出同胞 harness 池,训练期只在基础 harness 全部失败的 任务上调用池子救援,最终目标是把行为内化进 policy 本身——辅助撤掉后能力仍在。

另一条岔路把演化产物上移为可复用的决策知识:Meta² 离线不优化共享 harness,而是提炼一份何时演化/保持/避免的文本化 Meta-Skill,在线每个检查点由 evolver 结合冻结知识与当前运行证据做 KEEP/EVOLVE 决策——知识跨任务复用,编辑只作用于本运行。

论文演化产物形态发挥时机服务对象关键数字
Harness-S20 个同胞 harness 池 + 行为画像路由器训练期救援 + 推理期 Rank-1单一共享 policy(Qwen3.5-4B/9B)9B AppWorld Avg@3 62.34 vs GRPO 53.31
Meta²冻结文本 Meta-Skill + 在线 evolver运行中每 L 步检查点冻结任务模型(GPT-5.6-Terra 等)Terminal-Bench 81.00% / DeepSWE 44.44%

一条贯穿两篇的主线是:harness 进化正在从追求单一最优 harness,转向管理 harness 的多样性与其效用的非平稳性。Harness-S 的三性质(局部性/互补性/非平稳性)是经验发现,Meta² 的离线/在线分类法是理论化表述,两者都指向同一个结论:合并局部修复为通用 harness 既困难又昂贵,正确的做法是让多种执行支持以某种受控方式共存。这是理解本轮 harness 研究从静态优化走向运行时自适应的钥匙。

还有一个巧合值得点出:两篇论文的最强基线都是 Meta-Harness(Harness-S 表中 9B AppWorld Avg@3 42.88,Meta² 表中 73.33/37.33)——这个共同参照系让两篇的数字有了间接可比性,也说明端到端离线 harness 优化正是当前要被超越的范式中心。

一、题目

1.1 Harness-S: Learning from Sibling Harnesses for Generalizable Agent Training

题目里最关键的自造词是 sibling harnesses(同胞 harness):从同一基础执行系统 H0 出发、共享执行基座(论文中是 DeepSeek Harness)与环境接口、只修改对 policy 的支持方式的变体。论文专门强调它们与完全独立开发的 harness(如 Claude Code)不同——同胞共享执行基础,分歧只在支持方式上,这使得它们之间的对比与互补都是受控的。

副标题点明目标——generalizable agent training:不是训练出离不开某个特定 harness 的 policy,而是可泛化、回到 H0 依然有效的 policy。Learning from 三个词的组合也准确:学习信号来自同胞 harness 下的执行,而学习者是那一个共享 policy。

1.2 Meta²: Precomputing Reusable Knowledge for Online Harness Evolution in Long-Horizon Agents

题目的动词结构 precomputing … for online … 就是全部贡献:把离线优化产出从共享 harness 换成可复用知识(Meta-Skill),供在线运行中的 harness 进化使用。Meta² 读作 Meta-square——Meta-Skill 之于 harness 演化,恰如 harness 之于任务执行,是上移一级的元层:一层是执行任务,一层是决定如何执行,Meta-Skill 是决定如何修改决定如何执行的那一层。

长程智能体(long-horizon agents)框定场景:终端任务与仓库级软件工程,这两类任务执行跨度长、中途证据多,是 within-run 干预最有价值的场景。

二、背景

2.1 harness 为什么值得单独优化

Agent 的行为由模型 policy 与 harness 联合决定——即使权重冻结,harness 也塑造 policy 收到的信息与其决策如何变成动作。ReAct 展示了推理与行动交错的价值,SWE-agent 证明了 agent-计算机接口设计对任务执行的影响。

此后自动化优化沿多条线延伸:

  • 指令与提示词:OPRO 用已评估解引导新提示提案,EvoPrompt/Promptbreeder 做进化式提示搜索,DSPy 把声明式调用编译为流水线;
  • 系统与工作流:ADAS 搜索代码定义的 agent 系统,AFlow 用执行反馈搜代码化工作流;
  • 记忆与技能:Reflexion 存语言反馈,Voyager 积累可执行技能,Agent Workflow Memory 从经验归纳可复用例程,ACE 演化上下文 playbook;
  • harness 整体:Meta-Harness 端到端优化 harness 代码,HarnessX 做可组合可演化 harness 铸造,Harness-R1 让编辑策略本身从其运行时修改结果中学习。

两篇论文共享这条文献脉络,且都以 Meta-Harness 为最强直接基线——这本身就是 harness 优化已成独立战场的证据。

2.2 共同的困境:离线产物的两难

两篇论文从同一困境出发,只是切入角不同。

Harness-S 的视角是训练侧。harness 优化面临两个限制:

  1. 合并难:把局部修复合并成通用 harness 极难——修复间可能有不兼容的执行要求,兼容的编辑也会互相干扰,单一累积设计可能失去各组成变体的长处;
  2. 耦合贵:harness 与 policy 耦合演化(WHALE、Co-Harness 等交替更新)需要随 policy 变化反复生成验证变体(因为早期修复对演化中的 policy 越来越没用),且演化对的收益在 policy 回到 H0 时可能不迁移。

Meta² 的视角是部署侧。离线方法产出共享 harness,有两个致命伤:

  1. 过拟合训练任务:为某个失败动机的持久编辑会过度泛化到无关任务;
  2. 无法响应运行中证据:缺失的工具只有在 agent 试图使用时才暴露,被忽略的约束可能浮现在中间产物里,一次性警告可能需要变成循环检查——预先选定的 harness 必须在暴露这些情况的轨迹存在之前就预见到它们。

在线方法(pre-run/within-run/after-run)能适应,但 within-run 进化要么每次干预从零推理(在线 token、延迟、金钱成本都高),要么依赖测试时通常不存在的验证器反馈。

2.3 Harness-S 的三性质:一份经验发现

Harness-S 在 Qwen3.5-4B + AppWorld 上系统识别出 harness 演化的三性质(论文 Figure 1):

Locality(局部性)。harness 编辑修复一部分失败的同时在已解决任务上引入回归——四个变体 H1–H4 相对 H0 各自的修复/回归数各有正负,ΔSolved(修复减回归)在 ±15 之间波动。效果取决于被瞄准的失败,因此连续变体发展出各自的强项。

Complementarity(互补性)。同胞 harness 能互相补救对方的错误。H1/H2/H3/H4 各自单用一次 rollout 的成功率是 34.73%–37.40%,但 oracle 并集(每个各跑一次)达 65.65%,显著高于同 rollout 数下 H0 的 pass@4(44.66%)——多样执行行为带来的覆盖增益是重复采样换不来的。

Nonstationarity(非平稳性)。harness 的效用随 policy 学习而变——固定 harness 相对 H0 的 ΔSolved 在不同训练检查点间可从 +15 变到 −4,变体排名可跨检查点反转。这意味着任何一个时刻选出的最优 harness 都可能在下个时刻失效。

2.4 Meta² 的分类学:把时机形式化

Meta² 的形式化贡献是把 harness 进化按编辑选择时机与受影响执行划分为四种体制:

  • 离线(pre-deployment):训练轨迹与结果 → 共享工件,跨目标运行;无法响应目标运行中揭示的证据;
  • pre-run(t=0):目标指令与初始环境信息 → 即将开始的运行;无法使用执行中才涌现的证据;
  • within-run(检查点 t_k):指令、部分轨迹、工作区、前编辑状态 → 本运行剩余部分;缺最终结果反馈,且监督本身有开销;
  • after-run(完成后):完整轨迹与可得结果 → 下一尝试或后续任务;救不了暴露问题的那次运行,且保留的更新可能过度泛化或回归。

只有 within-run 能在证据出现的那个运行还没结束时响应它,但其决策不能依赖该运行的最终验证结果——这是 Meta² 全部设计约束的来源。论文附录的对照表把 Meta-Harness/AHE/JIT-Agent/ACE/Harness-R1/Continual Harness/PILOT/Live-SWE-agent 逐一放入这个坐标系。

三、定位和关联工作

3.1 Harness-S 在 harness-policy 联合优化谱系中的位置

Harness-S 把相关谱系分三支梳理:

harness 演化:Meta-Harness(冻结策略演化 harness)、HarnessX(可组合铸造)、Life-Harness(运行时适应)。Harness-S 的差异在于保留互补局部修复为可复用池,实现固定、画像随 policy 演化刷新。

harness-policy 联合优化:HarnessBandit 按优化器步调度单个 harness(用可学习性与跨 harness 可迁移性信号);HarnessX 在共享回放缓冲上做跨 harness GRPO(按任务跨 harness 与 policy 版本分组);WHALE 交替 Meta-Harness 式搜索与拒绝采样微调;HarnessForge 按分支演化配对的 harness-policy。Harness-S 的分配单位与众不同——是 H0 下的失败任务,而非优化器步或固定混合:只有全失败组才触发从当前 policy 在选定同胞上重新采样,且评估在 H0 下进行以检验辅助支持撤除后改进是否存活。

递归自改进:STOP、Darwin Gödel Machine、AIDE2、RRSI、SpecForge、SEAL 等。Harness-S 明确划界:其自改进循环作用于 policy 参数与经验选择,优化器、验证器与训练期 harness 池固定,不递归重设计改进算法本身。

3.2 Meta² 在在线进化谱系中的位置

Meta² 把自己定位为混合范式:离线学可复用知识 + 在线任务局部编辑。逐一看最近的同类:

  • Continual Harness:reset-free episode 内精炼提示/技能/记忆,且跨运行保留编辑——这是 Meta² 跨任务保留消融(81.00→78.33)直接对质的对象;
  • PILOT:监督者在环引导活跃 worker,但依赖验证器做保留选择(部署时需要验证器反馈);
  • Live-SWE-agent:任务中自改自己的工具,可行但无预计算指导;
  • JIT-Agent:pre-run 为每个任务即时合成 harness,证据先于执行存在;
  • ACE/ReasoningBank:after-run 任务流上更新经验库。

Meta² 的组合是唯一的:离线 ✓ + within-run ✓ + 部署时不需要测试期验证器反馈(Table 6)。作者还引用了一个值得记住的分析结论:许多现有 harness 优化收益实际上是在补偿底层模型可恢复的执行缺陷——这正是 Meta-Skill 记录何时干预的知识能有跨任务价值的原因。

3.3 两篇的隐含对立与互补

值得注意的细节:两篇互不引用对方(同日上线),但互为镜像。【阅读者推测】两篇组合恰好覆盖了 harness 进化设计空间的两条正交轴:

  • Harness-S 优化的是训练时经验如何进入 policy 参数(执行支持→权重内化),部署形态不变;
  • Meta² 优化的是部署时知识如何指导运行时编辑(对比经验→文本知识复用),权重不动。

一个改权重不改 harness 部署形态,一个改 harness 不动权重——这是 LLM 系统学习中参数侧与非参数侧经典二分在 harness 语境下的重演。而两者对非平稳性的处理也成对照:Harness-S 用周期性重锚定追踪它(因为 policy 在变),Meta² 用知识冻结规避它(因为任务在变,但何时干预的知识被认为跨任务稳定)。

另一个共同点是对 DeepSeek Harness 生态的依赖:Harness-S 的 H0 就是 DeepSeek Harness(一切皆插件),Meta² 的基线组里也有 DeepSeek Harness。这个开源执行系统正在成为 harness 研究的事实基础设施之一。

四、问题定义

4.1 Harness-S 的形式化

任务 x 上,policy πθ 在 harness H 下生成轨迹 τ ~ p_{θ,H}(·|x),验证器给出 R_x(τ) ∈ {0,1}。harness 的效用定义为该 policy 与任务上的期望成功率:

u_θ(H, x) = E_{τ~p_{θ,H}(·|x)}[R_x(τ)]

同胞池 H = {H0, H1, …, HM} 中所有变体共享执行基座、环境接口与任务验证器,使用相同 policy 参数;其相对效用随任务与 policy 检查点变化,因此需要随 policy 学习自适应的任务级选择。

要解的问题:利用效用随任务与 policy 检查点变化的特性,选择性用同胞救援 H0 失败,训练单一 policy 使其在 H0 下依然有效——即行为内化后的迁移存活。注意约束:优化器、验证器、训练期 harness 池全部固定,可变的只有 policy 参数与救援分配。

4.2 Meta² 的形式化

任务实例 ξ = (x, E_x, V_x),含公开指令、交互环境、验证器(验证器内容与结果不必对 agent 或 evolver 可见)。任务 agent 结合冻结模型 θ 与 harness h_t 执行;evolver g 从证据 I(k) 提议编辑:

δ(k) ~ g(· | h(k-1), I(k), M),h(k) = Apply(h(k-1), δ(k))

null 编辑即保持。M 是关于何时/如何编辑有益或有害的可复用知识(可为空)——Meta² 的全部创新就在于把这个 M 从空变成离线学来的 Meta-Skill。

要解的问题:在检查点上 evolver 只能看到活跃轨迹与许可的工作区状态、看不到最终验证结果的约束下,如何让已完成的训练运行中的经验指导新运行中的选择性编辑——既不访问 held-out 验证器反馈,也不让一个任务的修正持久化到无关任务。本质上是一个部分可观测下的序列决策:干预可以拯救失败轨迹,也可能打断 productive 工作或引入新失败,有时正确动作是不作为。离线监督也粗:一个终态通过或失败联合评估一串检查点决策,无法识别哪个编辑帮了忙、哪个有害、哪个多余。

五、解法

5.1 Harness-S:三组件救援训练管线

组件一:方向性 Harness 演化(Directional Harness Evolution)。

从 P1={H0} 开始,每轮对每个父代 H 在新鲜训练任务上执行,失败轨迹按根因分组(要求每个有效失败归到某个根因组或标记未解决),每个修复方向聚合 2–3 个相关根因、每个根因至少有 2 个不同失败任务支持。编辑器(GLM-5.3,温度 0.6,高推理努力)接收父代与根因,在六个可编辑组件——prompt、skill、context、memory、hooks、tool view——中按诊断选择修改(明确提示不得默认只改 prompt/skill)。局部评估最多 30 个任务(含最多 10 个成功控制任务),检查修复目标失败的同时是否保留已解决任务的行为;每个候选可提交初版加至多一次修订。

父代选择最大化联合验证覆盖:从本轮可执行、协议合规的子代中选至多 B=4 个父代,使验证任务并集最大(每任务只计一次,天然偏向互补覆盖而非冗余重复)。关键设计是池保留全部有效子代——包括未当选父代的:H_g = H_{g-1} ∪ C_valid_g。AppWorld 配置为 3 轮、提案预算 7/8/8,最终池含 H0 + 19 个辅助 harness(救援选 8 个,推理排名全池 20 个)。池子在 policy 训练期间冻结,只有其行为画像被更新。

组件二:互补 Harness 救援训练(Complementary Harness Rescue Training)。

每个训练任务 x 用当前 policy 在 H0 下采 K=8 个 rollout 组成 G0(x)。若组内至少一个成功,保留 G0(x) 照常训练;若全部失败,路由器选出 8 个不同辅助 harness 组成 G_R(x),同一 policy 从任务初始状态在每个选定 harness 下各做一次全新尝试,用 G_R(x) 替换失败组进入 GRPO 更新。

两个精妙之处值得展开:

  1. 救援恢复了组内奖励对比。全失败组在 GRPO 下无组内方差、优势全为零,不产生学习信号;救援组若含成功与失败,就提供了这个任务上策略相对优劣的对比。论文的有效组率指标(组内既有成功又有失败)直接量化了这一点:Harness-S 全程 79.38% vs H0 救援 70.94% vs 标准 GRPO 64.69%。
  2. 损失函数尊重生成上下文。概率比 ρ = πθ(y|c_H)/πθ_old(y|c_H) 按各轨迹自己的生成 harness 上下文 c_H 计算,只有 policy token 进入目标函数——harness 注入的指令与工具观察被排除在损失之外。这保证了从辅助 harness 下采的轨迹训出来的梯度只归因于 policy 自己的动作,而非 harness 的注入文本。

组件三:自适应 Harness 路由器 + 策略感知画像重锚定。

Harness Behavior Profile 把每个同胞相对 H0 的行为差异组织成 prefer/avoid 两列条目 {When: 任务条件 w, Behavior: 行为 b},由 LLM 从配对验证轨迹(同任务、同初始状态、同执行限制、同种子)中分组归纳。真实条目示例:prefer 列有 {When: 聚合 inbox/spam/archive 三处信息时, Behavior: 翻页至所有指定来源耗尽并合并去重(配对 H0 执行单趟匹配、遗漏部分来源)}。

投票聚合 V 个 LLM 的独立排名:每票列 4 个不同候选、权重 1/¾/½/¼、未列候选零分、跨票求和,平局用验证成功率再按 harness ID 决胜。投票输入含任务、当前画像、验证成功率、相似任务上的结果。

由于非平稳性,每 10 次更新冻结当前 policy 做一轮配对验证执行,刷新全部画像与验证统计(测试结果排除在外),下次校准前的路由使用最新画像。推理时可选 Rank-1 路由:最终重锚定后从含 H0 的全池按任务选一个 harness,选择发生在执行前、同 rollout 数下进行——9B 上把 AppWorld 从 72.52/62.34 抬到 75.19/67.05。

5.2 Meta²:预计算 + 复用的三层设计

在线组件:检查点式 harness 进化。

任务 agent 从极简种子 harness h(0)(NexAU)出发正常执行;evolver 与任务 agent 实例化自同一冻结模型。检查点信息按时间累积:I(k) = I(k-1) ⊕ (Δτ(k), ω(k), σ(k-1)),其中 Δτ(k) 是新增轨迹增量、ω(k) 是许可的只读工作区观察(可为空)、σ(k-1) 记录前一编辑是加载/保留还是回滚。在线实现里每个轨迹块截断至 1500 字符,另有 runner 计算的两节:重复过程(worker 以小变体重跑三次以上的命令+指纹)与通道预算(已用 notice 数、已用持久通道数)。

顶层决策二选一:KEEP 保持 harness 继续;EVOLVE 经由有界通道施加 δ(k)。通道契约差异精细:notice 到达 worker 下一轮开头、读一次、不持久、advisory;append/rewrite_worker_prompt 进入常驻指令、每轮生效、advisory;register_check(Python、标准库、独立解释器、只读文件)输出附加到每条命令结果、持久、reports;register_probe(bash、在 worker 环境执行)输出同样附加、持久;add_tool/add_skill/add_middleware 分别扩动作空间、按需加载笔记、在每次模型/工具调用外包裹代码。限额同样明确:每检查点至多一个 notice、每任务工作期间至多两个 notice;编辑加载失败即回滚并带回错误重试一次。

agent 声称完成(停止调用工具准备提交)时触发终端检查点:额外接收机械收集的状态——任务相关路径、创建/修改文件、新监听 TCP 端口、运行期间启动且存活的进程。KEEP 接受工件;EVOLVE 施加有界修正并把 agent 打回同一运行继续工作(受 send-back 预算约束,超预算记录后终止)。全程不重置环境、不丢弃累积轨迹。

离线组件:对比式 Meta-Skill 学习。

核心洞见是验证器只在整条运行结束后给出结果,联合评估一串检查点决策,无法归因单个编辑——Meta² 不追求归因,而是让终端反馈变得有方向性。每个训练任务跑三种条件:

  • A:任务 agent 单独执行(基线);
  • B:用当前版本 M 引导的 evolver;
  • C:持有训练期特权验证器信息的 evolver。

构成五个对比方向:

  1. B 过 / A 败 → act 证据(当前 evolver 的干预有救);
  2. C 过 / B 败 → act 证据(当前 evolver 错过的挽回策略);
  3. B 败 / A 过 → avoid 证据(当前干预有害);
  4. C 败 / B 过 → avoid 证据(验证器知情的演化反而更差——特权信息不保证好干预);
  5. A 过 / B 过 → hold 证据(有无 evolver 都过,不必干预)。

条件 C 的存在价值在难任务上:A、B 双败时其对比无成功样本,特权信息让 C 能产出成功 rollout 供 B–C 对比挖掘挽回策略。防泄漏三道闸:C 的系统提示严禁向任务 agent 传递特权验证器信息;执行后审计违规轨迹并从对比构造中剔除;部署时 M 冻结永不更新。

三阶段流水线:REFLECT 从每个保留对比组按预定义 schema 写候选条目(含 When to refer / Guidance / Why / Reference examples 四栏)→ AGGREGATE 按可观察触发器分组、去除实例细节、要求至少两个不同任务支持 → UPDATE 相对 M^(r-1) 增/并/精/删条目并保留出处。条件 A 与 C 的记录收集一次复用,条件 B 随每轮 M^(r-1) 重新收集——这样 B–C 对比反映的是当前 M 的真实盲区。

部署组件:全局冻结、局部适应。

M 冻结部署;每个新运行从同一 h(0) 重新开始;检查点上 evolver 以 δ(k) ~ g(·|h(k-1), I(k), M) 决策;运行结束编辑即弃。在线决策、任务特定编辑与结果永不写回 M;held-out 验证器内容与结果对 evolver 不可见,仅用于终止后评估。

5.3 两个值得咀嚼的设计对称性

两篇在机制上有两处漂亮的对称。【阅读者推测】

证据的方向性使用:Harness-S 只在全失败任务上消耗救援预算(失败驱动的探索定向),Meta² 的五向对比也是定向证据而非因果估计——两者都放弃了全量归因,换取信号的方向正确与获取成本的可控。

知识的作用域隔离:Harness-S 池中每个同胞的修复专长保持独立不合并(池保留全部有效子代而非只留最优),Meta² 的在线编辑限制在单运行生命周期内(跨任务保留反而掉点)——两者都用作用域隔离对抗同一类过拟合:把局部修复泛化到无关情境。

六、实验与知识反推

6.1 Harness-S 的实验证据链

实验设置。Qwen3.5-4B 与 9B,三基准:AppWorld(320 训/150 验/262 测)、DBBench(1600/200/300)、SWE-Gym(240/100/160)。Pass@3 测至少一次解决的任务占比,Avg@3 平均三次 rollout 成功率;主表为 3 次独立随机运行均值(Harness-S 附跨运行标准差)。8 张 H800。对照系覆盖 policy-only(GRPO、GRPO+H0 救援、两个固定混合)、冻结策略演化(Meta-Harness、Harness-S HE only)、协同演化(WHALE、HarnessForge),另有 GPT-6-Sol 等前沿模型参考。

主结果(RQ1)。9B+H0:AppWorld 72.52/62.34、SWE-Gym 40.00/32.50、DBBench 76.33/73.44,全面超过同优化器 GRPO(64.89/53.31、28.13/25.63、69.67/67.00)与 GRPO+H0 救援(65.65/54.83、29.38/26.88、70.67/67.78)。Rank-1 推理进一步到 75.19/67.05、43.75/36.25、78.00/75.67。两个亮点:路由后的 4B 在每项指标上超过 9B GRPO+H0 救援;路由后的 9B 在 DBBench 上超过全部前沿模型参考(78.00/75.67 vs GPT-6-Sol 的 71.33/68.89、DeepSeek-v4-Flash 的 75.00/70.44)。【论文实验已支持】

学习机制(RQ2)。有效组率全程领先(整轮 79.38% vs 70.94% vs 64.69%);有效训练 token 份额(计入轨迹长度差异)80.88% vs 72.68%。最关键的对照:两个固定混合基线(DSH H0 + Claude Code 各 4 rollout、DSH H0 + Top-4 持续混合)的有效组率与最终验证成绩都贴近标准 GRPO(固定混合终点甚至低于 GRPO)——harness 多样性只有定向到基础组失败的任务上才有用,均匀暴露于多样 harness 无效。验证集 H0 成绩从同起点出发每个检查点领先,终点 63.33% vs 54.00%(H0 救援)vs 48.00%(GRPO)。【论文实验已支持】

救援策略(RQ3)。AppWorld 4B 上对比六种分配:随机、规则路由(无画像,按相似验证任务成功率排名)、LLM Router(4×2)(4 个 harness 各 2 rollout)、固定画像 Top-8、自适应 Top-8(Harness-S)。Top-8 Adaptive 全部四个训练阶段救援成功率最高(52.38/66.67/45.71/50.00%),最终 Pass@3 67.56 / Avg@3 56.87 均为最佳;自适应比固定画像 Avg@3 高 4.71pp——支持随 policy 演化刷新路由证据。Top-8 优于 LLM Router(4×2):更广 harness 探索优于从更少 harness 重复采样。互补性量化:九个被分析同胞各自修复 11–15 个 H0 失败,并集修复 29 个(共享修复矩阵平均方向性重叠 62.47%)。【论文实验已支持】

行为内化(RQ4)。LLM 标注完整评估轨迹的行为频率(%):

  • AppWorld:首次使用 API 前查 schema,base 22.9 / GRPO 38.2 / Harness-S 67.6;显式翻页循环 13.8/33.5/38.3;重复执行代码 15.4/30.1/9.8(越低越好);单 execute 块多 API 调用 24.8/20.5/31.5;写后回读 69.2/56.9/69.4;
  • SWE-Gym:agent 自写断言检查 10.2/11.2/18.4;测试被阻塞后改用断言 15.4/13.3/48.5;同目标失败-编辑-重测 9.2/18.2/24.1;最后一次编辑后检查 diff 16.3/23.5/27.5。

作者谨慎地注明:频率描述行为而非正确性,更多调用或检查只在服务任务时才有用。两个 held-out 案例追踪了具体的迁移:集合交集约束(训练救援中 H2 在 Venmo 点歌任务上先取 liked songs 与 library/playlist 的交集→held-out 测试中 Harness-S policy 对新歌单实例正确应用交集、GRPO 用并集发过 inclusive 列表而败);账户恢复多步流程(训练救援中 H5 完成 Venmo 读邮件验证码-重置密码-验证登录的工作流→held-out 验证中 Harness-S policy 在 Amazon 实例上读新验证码-重置-验证成功、GRPO 读验证码但不改密码而败)。两个案例分别对应任务约束的迁移与多步流程的迁移。【论文实验已支持】

路由有效性(RQ5)。训练前后 Rank-1/2/3 的成绩排序均单调递减(Pass@3 与 Avg@3 都是 Rank-1>Rank-2>Rank-3),说明排名预测执行质量。训练使 H0 成为更常见的首选:H0 排 Rank-1 的任务占比 1.53%→22.52%,Rank-2/3 占比也上升。训练后 policy 在 H0 下反超 Rank-2/3;Rank-1 对 H0 的 Pass@3 优势从 14.21 缩到 0.76(Avg@3 从 13.49 缩到 4.58)——辅助依赖确实下降,Rank-1 剩余优势集中在跨尝试一致性上。【论文实验已支持】

跨 harness 泛化(RQ6)。训练后 policy 无任何更新地放到 Claude Code、OpenClaw 外部 harness 下:AppWorld Pass@3 增益(vs GRPO)+9.16/+4.96,SWE-Gym +12.50/+10.62,全部场景最高且超过混合 harness GRPO——但两者之下都低于 DSH H0 的成绩。结论:互补救援发展的行为超越训练 harness 可用,执行接口仍影响行为兑现的可靠程度。【论文实验已支持】

成本核算。训练侧:Harness-S/Top-8 比 plain GRPO 多 18.44% rollout(3032 vs 2560)、67.19 vs 50.58 GPU·h,换 7.89pp 的 H0 Avg@3 提升;比 H0 救援(3616 rollout、97.77 GPU·h、51.91)更少采样更少算力更高分。全管线:Harness-S 搜索 rollout 4010,比 Meta-Harness(8000)/WHALE(8640)/HarnessForge(5680)少 29–54%;GPU·h 75.79 与 API token 18.69M 落在协同演化基线区间内(相对 WHALE 少 GPU 时多 API token,相对 HarnessForge 相反)。

6.2 Meta² 的实验证据链

实验设置。Terminal-Bench 2.1(89 任务,容器化命令行复杂工作流,29 训/60 测,每测任务 5 次独立运行取 mean@5)与 DeepSWE 1.1(113 个跨 91 个开源仓的原始工程任务,38 训/75 测,mean@3)。主骨干 GPT-5.6-Terra(medium reasoning),副骨干 DeepSeek-V4-Flash-0731(high)。每个骨干设置内所有系统的所有角色用同一底层模型;全部调用走同一 LiteLLM 代理,从响应头按次计费。基线三组:人工设计 harness(NexAU 种子、Codex CLI、mini-swe-agent、Pi、DeepSeek Harness)、自进化(ReasoningBank、ACE、TF-GRPO)、harness 进化(AHE、Meta-Harness、Continual Harness);所有自进化/harness 进化方法从同一 NexAU 种子出发;测试期适应的方法一律不得看 held-out 验证器结果。

主结果(RQ1)。GPT-5.6-Terra 下:Terminal-Bench 2.1 达 81.00%(+14.67 vs NexAU 种子 66.33),DeepSWE 1.1 达 44.44%(+9.77 vs 种子 34.67),均为受评方法最高;比最强 harness 进化基线 Meta-Harness(73.33/37.33)高 7.67/7.11,比 TF-GRPO(74.67/36.44)高 6.33/8.00。DeepSWE 上的分野最能说明问题:ReasoningBank(−1.34)、ACE(−2.67)、Continual Harness(−0.89)低于种子、AHE 持平——唯独 Meta² 保持近 10 点提升,作者归因于条件 C 能在 A/B 双败的难任务上提供其他方法得不到的成功样本。重复运行稳定性也是全场最佳(标准差 0.91/0.77,多数基线在 2–5 个点)。【论文实验已支持】

跨骨干鲁棒性。DeepSeek-V4-Flash-0731 在 Terminal-Bench 上 Meta² 仍第一(77.67%,+7.67 vs 种子);三个自进化基线全部低于种子(ReasoningBank −0.67、ACE −5.00、TF-GRPO −3.67),AHE/Meta-Harness 仅 +1.33/+1.00,Continual Harness +4.67。注意作者说明:每个骨干单独构建 Meta-Skill,此实验检验的是跨骨干的方法鲁棒性而非冻结 Meta-Skill 的零样本跨模型迁移。【论文实验已支持】

成本(RQ2)。Meta² 全成本 Terminal-Bench $174.91 / DeepSWE $367.86,低于 AHE($248.35/$862.89)与 Meta-Harness($198.85/$870.75)且性能更高——直接支配这两个离线基线,位于两基准的性能-成本 Pareto 前沿。对比另一在线方法 Continual Harness:离线构建更贵($110.19 vs $28.75;$238.52 vs $46.11),但在线更便宜($64.72 vs $83.48;$129.34 vs $155.61)且性能更高——预计算成本是一次性投资,Meta-Skill 复用次数越多摊得越薄。【论文实验已支持】

检查点频率(RQ3)。固定区间 L 扫描:L=5 最优(81.00%、$64.72);更密不升反降——L=3 花费 $74.22 得 80.33%、L=1 花费 $83.41 反得 79.00%;更长区间省钱但性能妥协(L=11 为 $59.10,性能下降)。所有 L 取值下 Meta² 均超过全部基线——优势对检查点日程鲁棒。这个非单调模式【阅读者推测】可能反映过于频繁的检查会诱发过度干预(与 avoid/hold 条目要约束的正是同一倾向)。【论文实验已支持(扫描数据);解释为阅读者推测】

组件消融(RQ4)。五设置递进(Terminal-Bench/DeepSWE):

  1. 任务 agent 单独:66.33/34.67
  2. +在线 evolver(无知识):74.67/36.44
  3. +自蒸馏 Meta-Skill:77.00/35.56
  4. +对比式 Meta-Skill(Meta²):81.00/44.44
  5. 第 4 + 跨任务保留在线编辑不重置 h(0):78.33/39.11

三个结论:无知识 evolver 已有约 8 点提升(监督结构本身有价值);对比式比自蒸馏高 4.00/8.88(五向对比的知识质量高于从成功轨迹单侧蒸馏;自蒸馏在 DeepSWE 上甚至略降——难任务上成功轨迹太稀疏);跨任务保留编辑显著掉点——在线编辑源自活跃任务轨迹、编码任务特定干预,不重置就会污染下一个任务,直接验证了任务局部性设计的必要性。【论文实验已支持】

案例研究。四个配对案例(同任务、同初始 harness、同模型、同检查点日程,有无 Meta-Skill 各跑一次):

  • act(Terminal-Bench,git 部署 web 服务):无知识 evolver 接受临时沙箱里的测试与不存在的 /git/server;E-02 条目要求端到端证据——clone/commit/push 后新鲜 curl 8080 端口确认 hello world——agent 装服务验证全链路后通过;
  • act(DeepSWE,Obsidian Link Style 规则):无知识 notice 只盯失败测试暴露的解析器问题,image 路由未检查,58/60 隐藏测试;E-02 引导注意未验证执行路径,发现 linkStyle=wiki 与 imageStyle=不改的交互,修复后 60/60;
  • avoid(Terminal-Bench,Corewars 战士):stone 对局 74 胜差 1 场时,无知识 evolver 用最后 notice 改向其他 warrior,混合体停在 74;E-06 判定探索仍在推进(KEEP),继续调 Rave,最终 77/95/92/34/68 全部过阈;
  • hold(Terminal-Bench,逆向渲染器):无知识 evolver 在 t1/t2 把 notice 花在孤立的工具失败上,输出比对暴露重大不匹配时通道已耗尽;E-04 阻止对孤立失败发 notice、E-03 要求输出比对,两个 notice 留到 t4–t5 处理参照保持与不匹配,最终逐像素复现成功。作者诚实标注:此案例展示的是干预时机差异,不能断定省下早期 notice 决定了成功。【论文实验已支持】

6.3 相反结论与弱点的检视

Harness-S 侧:

  1. 固定混合基线几乎无效说明收益来自定向分配而非多样性本身——但这也意味着方法依赖全失败触发器这一启发式;部分成功的任务(组内已有对比)不会触发救援,其改进仍只靠常规 GRPO。【阅读者推测】
  2. 行为频率描述行为而非正确性(作者自己声明),内化的因果链(救援→行为→H0 下成功)由频率、案例与路由依赖下降三面佐证,但不是受控归因。
  3. 跨 harness 泛化仍低于 H0 成绩,说明内化不完全;对完全独立开发 harness 间如何交换任务状态,作者列为未来工作。
  4. 池的构建本身有成本(搜索 rollout 4010 次起步),且池对准的是单一执行系统家族;换基座需要重新演化——论文的未来工作提到研究池跨 policy 的持久迁移与高效复用。

Meta² 侧:

  1. 作者在局限里明确承认:A/B/C 对比是运行级证据而非单检查点决策的因果估计——独立采样的轨迹可能在干预前就分叉,终态差异不能归因单个编辑;受控的共享检查点状态恢复式对比才能更精确归因。
  2. 跨任务聚合产出的条目是训练证据的抽象,其适用性取决于活跃运行是否呈现相关条件;对更广分布偏移下的迁移未验证。
  3. 每个 benchmark/骨干组合单独构建 Meta-Skill——知识的构建成本随骨干数线性增长,跨模型复用未测。
  4. 评测限于有自动验证器的终端与软件工程任务;对具身控制、开放研究等交互结构不同、完成标准更弱的领域不覆盖。

共同边界:两篇都依赖可执行验证器定义成功(R_x / V_x),没有干净二值结果信号的领域两条路线都要先解决奖励来源问题。两篇也都在单一执行系统家族内工作(DeepSeek Harness 基座 / NexAU 种子),同胞与编辑的多样性受种子设计空间限制;Meta² 的 DeepSWE 增益(44.44%)也仍留下过半任务未解——两个方法都远未触顶。

七、通用灵感

  1. 多样性是资产,合并是陷阱。Harness-S 的局部性发现表明局部修复互相不兼容,Meta² 的跨任务保留编辑实验(81.00→78.33)从另一侧证实同样的教训:把为某个情境学到的修正持久化到全局,几乎总是过拟合。任何维护配置/规则/技能库的系统都值得问一句——这个组件的作用域应该是全局还是局部?

  2. 非平稳性可以用重锚定管理,而不是用冻结对抗。Harness-S 的画像重锚定(+4.71pp)证明:当被评估对象的效用在漂移,评估证据本身需要定期刷新。这对所有做检索/路由/推荐系统的团队是通用教训——画像的保鲜期必须与被画像对象的演化速度匹配。

  3. 预计算-复用是摊薄昂贵在线推理的通用架构。Meta² 把离线优化上移一级、产出可复用决策知识而非终端工件,使在线每次干预不再从零推理(在线成本低于纯在线的 Continual Harness)。这一 precompute-and-reuse 模式可迁移到任何在线决策昂贵的场景:把何时干预的知识离线化,把干预本身留在在线。

  4. 特权信息只用于构造监督,不进入部署。Meta² 的条件 C 用训练期验证器特权造出成功样本,靠提示禁令+事后审计+部署冻结三道闸防泄漏——与经典的学习使用特权信息(Learning by Cheating、Generalized Distillation)一脉相承,Harness-S 的扩展相关工作里也正好梳理了这条线。任何拥有只在训练期可用的强信号(标注、模拟器内部状态、专家演示)的场景都可以套用:把特权信息转化为 student 部署时可用的形式。

  5. 失败驱动的定向探索优于均匀多样性。Harness-S 只在全失败任务上花救援预算、两个固定混合基线的失败从反面佐证;Meta² 的五向对比聚焦有方向差异的结果对。两者共同反驳了多多益善式的探索观:探索的收益取决于把多样性花在信号最缺乏的地方——全零奖励组、A/B 双败任务。这对 RL 探索策略、数据课程设计、主动学习采样都有启发。

  6. 监督角色分离 + 有界通道是运行时干预的安全设计。Meta² 的 evolver 不能直接替 worker 行动,只能经契约明确的通道施加影响,且有验证、回滚、预算约束与审计日志;安全讨论进一步建议最小权限、显式编辑范围、版本化变更,扩权编辑需人工批准。这是任何想在生产 agent 上加运行时监督的团队可以直接抄的清单。

  7. 把执行支持内化进参数,与把决策知识外置为文本,是同一枚硬币的两面。Harness-S 证明 harness 促发的行为可以进 policy 参数并在撤除后存活(schema 查询 22.9%→67.6%、翻页 13.8%→38.3%),Meta² 证明知识可以进冻结文本并在新任务上复用(+14.67/+9.77)。选择内化还是外置取决于:改动权重的成本与风险、部署环境是否允许运行时监督、知识需要多快更新。两篇合起来给出了这个决策矩阵的两个极端端点,中间地带——部分内化加部分外置、知识定期重锚定更新——正是两篇未来工作共同指向的方向。

  8. 对干预类系统,不作为是一个需要学习的一等动作。Meta² 的 hold/avoid 证据类型、检查点过密反而掉点(L=1 得 79.00)、Harness-S 只在全失败时出手——三个证据都指向:干预系统的关键能力不是知道何时出手,而是知道何时不出手。设计任何监督/编排/自愈机制时,把 KEEP 做成显式决策并给它学习信号,与把 EVOLVE 做好同样重要。