论文一:Agensh: Scaling Organizational Intelligence to 1,024 Agents 论文二:SelfSearch: Reward-Free Search for Self-Improving Agents 论文三:VERSE: Verified Self-Evolving Optimizer for Agent Harnesses 代码仓库:Agensh | VERSE(SelfSearch 未发布代码) 发表时间:2026年9月 / 2026年9月 / 2026年10月 机构:Microsoft Research(单一企业);Seoul National University(纯高校);MIT + Amazon(产学研合作——一作 Zekai Wang 为 MIT 学生,研究在其于 Amazon 实习期间完成(论文首页 † 注明),Amazon 提供研究环境与多数合作者,MIT 提供学术归属) 领域标签:cs.CL / cs.AI,多智能体系统、agent harness 自动优化、自进化
〇、三篇合读的线索:模型之后,扩展什么?
2026 年的 agent 研究有一个越来越清晰的共识:模型的权重不再是唯一的优化对象。当一个 frontier 模型被冻结,它外面还包着一层"harness"——提示词、工具、记忆、控制流;一个 agent 的外面还可能站着一千个 peer agent。三篇论文恰好覆盖了"模型之外"的两条正交扩展轴:
- 空间轴(往外扩):Agensh 问——一个多智能体组织能扩到多大?答案是把中央编排器拆掉,换三层自组织基础设施,可以扩到 1,024 个 agent,而且合作形式随规模自发涌现。
- 时间轴(往内卷):SelfSearch 与 VERSE 问——agent 能不能自己改自己?SelfSearch 证明不看下游评测分数、只读"自己上一轮怎么改自己"的记录就能持续改进;VERSE 更进一步,让改进 executor 的优化器也改进自己,但发现没有验证工具的自进化是有害的。
三篇放在一起读,能看见一个完整的范式转移:从"训练更强的模型"到"冻结模型、进化结构与程序"。下文按九部分结构展开,每一部分内三篇互相映照。
一、论文背景
1.1 Harness:模型外面的那一层
一个 LLM agent = 模型 + harness。harness 是包裹模型的提示词、工具集、记忆机制和控制流(“the prompts, tools, memory, and control flow that turn a language model into a system that acts”,VERSE 原文)。在 SWE-bench、Terminal-Bench 这类 agentic 基准上,harness 的影响常常和模型本身一样大——同一个模型换个 harness,得分可以差出十几个点。这就是为什么"harness 优化"在 2025-2026 年成为一个独立研究方向:Meta-Harness、AHE、Self-Harness、HarnessX 等工作让一个 LLM 优化器去读失败轨迹、编辑 executor 的 harness。
但这条线有个隐藏缺陷:优化器自己的流程是固定的。它是一段手搭的 pipeline 或一个现成的 coding agent,读轨迹、提修改、下一轮看分数——优化器从不改进"自己怎么干活"。VERSE 的动机问题就是:能不能让优化器也进化自己?
1.2 编排器:多智能体系统的天花板
单 agent 的能力受限于一个上下文窗口、一条动作流、一条记忆流。要突破,直觉方案是多智能体并行。现有框架(Claude Code sub-agents/agent teams、Codex sub-agents、Copilot fleet、Kimi Agent Swarm)几乎都采用 orchestrator-worker 结构:一个主 agent 规划、分解、派活、管理。问题在于:整个系统的可扩展性受制于编排器自身的容量——它要管理工人、协调依赖、整合贡献,agent 越多它越忙。Kimi Agent Swarm 甚至需要专门训练一个 orchestrator。Agensh 的动机问题就是:把编排器去掉,组织还能运转吗?还能扩到多大?
1.3 评测引导搜索的成本困境
让 agent 自我改进的主流做法(DGM 一系)依赖下游评测:改一版、跑一遍开发集、按分数选候选。这带来两个问题:成本随任务数线性增长(每个候选都要在 dev set 上反复执行),且改进信号绑定在特定任务分布上(容易过拟合 dev 集)。SelfSearch 的洞察来自元认知(metacognition):人改进自己时获得的不只是"问题本身的经验",还有"如何发现弱点、测试方案、应对失败"的过程经验——自我修改的过程本身就是一种可复用的经验源,为什么一定要等评测分数才知道改对了没有?
1.4 三条裂缝,三篇论文
| 痛点 | 论文 | 核心一问 |
|---|---|---|
| 编排器容量瓶颈 | Agensh | 没有老板的组织能不能扩到千人? |
| 评测依赖的成本与过拟合 | SelfSearch | 不看分数,只看自己的修改记录,能改进吗? |
| 优化器流程固定 | VERSE | 让优化器进化自己,何时有益何时有害? |
二、论文定位和关联工作
2.1 谱系一:多智能体组织 harness(Agensh 所在)
- orchestrator-worker 主流:Claude Code agent teams 围绕固定 lead 会话组织协作;Codex sub-agents 的结果路由回父节点整合;Kimi Agent Swarm(K2.5 技术报告)训练一个 orchestrator 做并发调度。共同点:任务发现、分配、整合的职责集中在编排器——这正是规模化瓶颈所在。
- 去中心化先驱:DeLM(共享上下文 + 任务队列,Agensh 的共享上下文直接借鉴它);ChatCollab / SlackAgents 把 agent 嵌入 Slack 式工作区平等协作;Carlini 的 16-Claude 编译器实验(Git 仓库 + 任务锁文件,无编排 agent);STORM 把多智能体编码视为状态管理问题;AgentNet 去中心化进化协调。Agensh 与它们的差别在于系统性与规模:三层基础设施(工作区/消息/上下文)完整定义,且首次推到 1,024 agent、在 ProgramBench 最难任务上给出严格缩放曲线。
- 行业侧写:Anthropic 的多智能体研究系统(orchestrator-worker,lead Opus 4 + subagent Sonnet 4)在内部评测上比单 agent 高 90.2%,但 token 消耗约 15 倍于普通对话;Cognition 的《Don’t Build Multi-Agents》曾主张并行写者天然脆弱(上下文不共享、隐式决策冲突),2026 年修正为"多 agent 贡献智能、写入保持单线程"。Agensh 相当于给出第三条路:写入多线程化,靠 Git 合并机制与共享上下文消化冲突。
2.2 谱系二:评测引导的 agent 搜索(SelfSearch 的对照系)
- Darwin Gödel Machine(DGM):自指自改进的标志性工作——维护 agent 档案库,改自己的代码、在 SWE-bench 上评测、按分数选择,SWE-bench 从 20.0% 提到 50.0%。SelfSearch 的初始 agent 就改造自 DGM 的实现,但去掉了评测引导这一核心组件。
- 相关变体:Huxley-Gödel machine(按"产出更优后代"的潜力选候选)、Hyperagents(可编辑程序内含 task agent + meta agent)、SICA(同一 agent 既做任务又改自己)、Live-SWE-agent(任务内即时自进化)。SelfSearch 的定位表(论文 Table 13)写得很清楚:它是唯一同时满足"进化任务 agent + 进化 meta-agent + 角色统一 + 无奖励搜索"四个属性的方法。
- GEPA(反思式提示进化,UC Berkeley/Stanford/DSPy 团队):主张"自然语言轨迹是比标量奖励更丰富的学习介质",用文本反思 + Pareto 前沿以 35 倍少的 rollout 打败 GRPO。这与 SelfSearch 的"episode 记录优于评测分数"在认识论上同源,但 GEPA 仍用任务级评估做选择,SelfSearch 连这个都不要。
2.3 谱系三:harness 优化器及其进化(VERSE 的地基)
- 四个宿主基线:Meta-Harness(COLM 2026,读原始轨迹)、AHE(LLM debugger 蒸馏根因报告)、Self-Harness(失败轨迹聚类出弱点模式)、HarnessX(四阶段工作流按需摘要轨迹)。VERSE 可叠加在任意一个之上。
- 验证先例:SPEAR 给提示优化器一个可自调用的 evaluate 工具;AutoSaddler / HarnessEvolve / EnvHarness 用执行门控筛选候选——但它们的优化流程本身固定。
- 优化器自进化先例:Promptbreeder 进化"变异提示"本身、SePO 优化自身系统提示、MetaSkill-Evolve 把改进管线应用于自身元技能。VERSE 与它们的差异:(1) 优化器 harness 是完整 agent harness(prompts/skills/tools/hooks/notes 五件套);(2) 配套双层优化理论(定理 1/2);(3) 首个受控研究证明"无验证的自进化有害、有验证的自进化最优"。
- 评测协议革新:VERSE 引用 Wang et al. 2026b 的批评——很多 harness 优化工作"在同一个基准上搜索并报告",本质是测试时扩展/过拟合。VERSE 用训练 110 / 验证 50 / 测试 108 严格三分的协议重实现全部四个基线。
2.4 定位总结
| 维度 | 之前的路线 | 三篇的突破 |
|---|---|---|
| 多智能体架构 | orchestrator-worker,编排器是瓶颈 | Agensh:无编排器,基础设施承载协调 |
| 自我改进信号 | 下游评测分数(成本高、绑分布) | SelfSearch:自我修改过程记录(reward-free) |
| 优化器角色 | 固定流程的改写者 | VERSE:可自进化,但必须配执行式验证 |
| 评测协议 | 搜索集=报告集 | VERSE:三分协议 + OOD(五语言/新领域/新模型) |
三、问题定义
3.1 Agensh:组织扩展问题
具体问题:不训练任何编排器,多少个同构 worker 能在固定预算内协作完成超大型软件重构任务?
抽象问题:agent 数量能否成为像参数量、数据量一样的 scaling 维度? 形式化地:给定同一模型 M、同一单 agent harness、同一时间预算 T,构造组织规模函数 Org(n),问最终测试通过率 pass(n) 与达到固定分数所需时间 t(s) 随 n 的变化。约束:worker 之间除了共享基础设施外无任何中心化控制;所有 worker 使用除 ID 外完全相同的 prompt。
精妙之处:把"协调"从计算(编排器算力)转化为状态(基础设施承载的共享记忆)——协调成本不再随 agent 数量线性增长地消耗某个中心节点的上下文窗口,而是摊销到 Git 历史、消息频道和 append-only 日志这些无容量上限的外部存储上。
3.2 SelfSearch:无奖励自改进问题
具体问题:agent 编辑自己的代码仓库(指令/工具/执行逻辑),不看任何下游 benchmark 分数,能变强吗?
抽象问题:自我修改过程本身能否作为学习信号源? 形式化(论文式 1):初始 agent B₀ 是一个仓库;episode k 中 agent Bₖ 收到仓库的可编辑副本与前序 episode 记录 Eₖ(只读),执行自修改算子 (Bₖ₊₁, eₖ) = SelfImprove(Bₖ; Eₖ, d),其中 d 是定性的搜索方向(capability/adaptive),eₖ 是本次修改的完整记录(轨迹 + 代码改动 + 检查结果)。模型权重全程冻结;候选生成与下游评估完全分离。
与深度学习的类比:episode 记录 ≈ 训练日志,evolving improver ≈ 学习率也会随训练更新的优化器——改 agent 的那个 agent 自己也在被改。双 lineage(capability / adaptive)≈ 两条独立的优化轨迹共享梯度日志。
3.3 VERSE:双层优化问题
具体问题:harness 优化器在改 executor harness 的同时进化自身流程,怎样保证进化出的是泛化能力而非过拟合?
抽象问题:把 harness 进化形式化为双层学习(论文式 2):
- 内环:
hₜ₊₁(g) ∈ argmin_h L̂_train(h)——给定优化器 harness g,在候选集 Cₜ(g) 中选训练损失最低的 executor harness; - 外环:
min_g E[L̂_val(hₜ₊₁(g))]——更新优化器 harness g,使其生成的候选在验证集上更好。
配套两个定理刻画何时有用:定理 1(修复选择)把"该修哪个因"建模为二元假设检验,证明当已有证据模糊(Bhattacharyya 系数 β₀)时,只重读已有证据的错误率有 λ(1−λ)β₀² 的下界——只有引入依赖因果的执行检查(每次检查使系数乘 ρⱼ<1)才能压低上界;定理 2(找到并选对好 harness):最终损失 ≤ ℓ₀ + ∏ᵢ[1−rᵢ(1−eᵢ)] + ε_sel,其中 rᵢ 是"瞄准了正确的失败"的概率、eᵢ 是"修复修错了"的概率——两个因子相乘,修复老错时,选靶再准也没用。这正是"无验证自进化有害"的理论根源。
四、问题解法
4.1 Agensh:五步合作循环 + 三层基础设施
每个 worker 异步并发执行五步循环(以 prompt 注入而非硬编码实现,1,024 个 worker 仅 ID 不同):
- Gather context:读共享目标、当前状态、peer 进度与消息、积累的发现,规划下一步;
- Claim sub-task:提议子任务并以 CLAIM 条目发布到共享上下文;重叠/冲突时鼓励用直连消息解决;
- Take action:本地用工具解决子任务,过程中随时把可能有用的发现写入共享上下文;
- Verify results:对照子任务验收标准自检,不满足就 revise 直到达标;
- Merge progress:合并进共享工作区,发布"改了什么/思路/验证证据"的更新;合并被拒就先并入最新 main、重新验证、再合并。回到第 1 步。
三层组织基础设施(协调的物化载体):
| 组件 | 实现 | 功能 | 类比 |
|---|---|---|---|
| 共享工作区 | Gitea(Git 平台) | 持有进行中/已完成工作,并发写 + 异步读,版本历史 + 合并冲突检测 + issue/PR | 代码仓库即组织记忆 |
| 消息接口 | Mattermost | 任务频道(低优先级,回合开始投递)+ 直连消息(高优先级,工具调用返回时即投递) | 群公告 vs 拍肩膀 |
| 共享上下文 | append-only 数据库 + context grep 工具(借鉴 DeLM) | 五类条目:OBSERVED(观察到的参考行为)/ FACT(确认事实)/ FAIL(失败路径,被 prompt 标注为"最高价值条目")/ CLAIM(在做声明)/ PATCH_SUMMARY(修复摘要);条目有字数上限,可 board_unfold 展开,board_grep 支持 AND/OR 关键词检索全量历史 | 组织级试错日志 |
工程细节(附录 B):事件驱动运行时——router 监听 Gitea/Mattermost 事件写入持久队列,dispatcher 排序合并事件生成下一 prompt;事件有唯一 ID 去重、失败指数退避重试、10 分钟空闲检测器提醒继续干活、一回合无共享上下文条目则提醒发布发现。1,024 worker 部署在 16 节点 × 64 agent;错峰启动(首小时每 30 秒一个,之后每 3 秒一个)减少 CLAIM 碰撞;结束前 45/5 分钟两级提醒收敛合并。Agensh 叠在单 agent harness(Copilot)之上而非取代,接口即插即用。
4.2 SelfSearch:双血统无奖励搜索
搜索流程(Algorithm 1):两条并行 lineage——capability 方向(从低效行为/失败动作中识别能力局限,发展可复用工具或流程)与 adaptive 方向(改进"行动失败/证据与假设矛盾/出现更优策略时"的应变方式)。每代每条 lineage 做一次自修改 episode;两 lineage 共享上一代的两条 episode 记录(各自实现独立,但能吸收对方方向的发现);全部候选入档案库。第 0 代先在两个方向下各跑一次初始 agent 产生种子记录(实现丢弃、记录保留),保证两条 lineage 同起点。
安全边界:模型-工具交互循环跑在固定运行时里、位于可编辑仓库之外——agent 可以改仓库中的一切(指令、工具、策略库、任务级编排),但动不了推理设置、资源限制和记录机制;episode 记录由运行时管理、只读挂载给后续 episode。
具体长什么样(Table 5,GPT 十代演化实例):Gen1 capability 加"精确文本替换"、adaptive 加"计划修订与失败恢复";Gen2 互换;Gen6 capability 发明"带输出限制的文本搜索"、adaptive 发明"结构化轨迹读取器";Gen7 互相吸收对方的工具;Gen8 给轨迹和 diff 加输出上限;Gen9-10 加轨迹过滤器和调用-结果关联。典型的"工具在一条 lineage 出生、在另一条被精修"。
4.3 VERSE:四组件 + 双层循环
VERSE 叠加在宿主优化器(Meta-Harness/AHE/Self-Harness/HarnessX)上,保留其失败分析报告接口,加四件东西:
- 归因(Attribution):trace minimization——重放步骤子集,把失败轨迹压缩到"仍复现同一错误"的最少步骤(重放研究:中位数 129 步 → 8 步,14.4× 压缩)。为什么要压缩?因为纯 LLM 读轨迹定位故障步的命中率只有 57.3%(±1 步内)——读能认出失败类型,认不准失败位置。
- 验证三工具(提交前回答三个问题):
- verification:草稿编辑先在最多 3 个目标任务试跑,两次通过才算修复(单次通过可能是运气);
- replay:重放记录的失败,检验"这个失败可复现吗"(检验诊断);
- perturbation:替换/移除单个步骤后重放,检验"失败真的依赖这一步吗"(检验因果归因)。
- 训练审计(Training audit):跨轮追踪每个失败模式——哪些修复保住了、哪些回退了,让优化器看见自己被"退货"的修复。
- 优化器自进化:每轮结束用最多 30 turn 修改自己的 prompts/skills/tools/hooks/notes;自写代码须过安全检查 + 测试运行才生效。优化器与 executor 的模型权重都冻结。
预算机制:验证调用按"单位"计价(verification 每目标任务 1 单位、replay/perturbation 每次 1 单位),每候选 8 单位、每轮三候选共享 24 单位池,自更新也从同一池取——防失控也防滥用。
自进化实际学到了什么(附录 L 最佳运行的日志):优化器在 round 1 后给自己写了 corpus_triage 工具(一次调用完成失败模式分类,替代几十次 bash 挖掘)、一条"提交前必须验证 2 个预期修复目标 + 1 个回归金丝雀(当前 harness 已能通过的任务)“的硬规则、一个"零执行证据就拦截提交一次"的 hook、以及里程碑式回合调度(t20 停止挖掘开始起草、t32 必须探针、t52 强制提交)。这些都是从自己 round 1 犯的错(修 3 个任务、回归 2 个;9 次 flip 有 4 次不可复现)里总结的——优化器把自己的教训编译成了自己的流程。
4.4 三篇方法对照总览
| Agensh | SelfSearch | VERSE | |
|---|---|---|---|
| 优化对象 | 组织规模(worker 数) | agent 自身仓库 | executor harness + 优化器自身 |
| 谁在改 | worker 各改各的 | agent 自己改自己 | 优化器改 executor,再改自己 |
| 改的依据 | 共享上下文 + 同侪消息 | 前序 episode 记录 | 执行式验证 + 训练审计 + 验证摘要 |
| 模型权重 | 冻结(GPT-5.6-sol high) | 冻结 | 冻结(Qwen3.8-Flash-Next / 27B) |
| 防失控机制 | Git 合并冲突检测 + 验收自检 | 隔离容器 + 固定运行时 | 安全检查 + 三任务预算 + 验证选择 |
五、评估指标与实验证据
5.1 Agensh:缩放曲线与涌现行为
基准:ProgramBench 五个最难任务(FFmpeg/gromacs/pandoc/PHP-src/ctags——参考仓库数千文件、数十万到数百万行代码),6h 预算、无网络、GPT-5.6-sol (high) + Copilot harness,报告 canonical-kept 通过率。
主结果:五任务平均最终通过率 1 → 8 → 32 → 128 agents:19.31% → 20.68% → 26.52% → 28.78%(+9.47pp,约 49% 相对提升)。pandoc 单任务 1 → 128 → 1,024:33.89% → 50.94% → 55.06%(1,024 比 128 再 +4.12pp,比单 agent +21.17pp)。
延迟维度:更大组织更早达到同等分数——pandoc 上 128 agents 在 30 分钟即超 30% 通过率,32/8 agents 分别在 60/90 分钟,单 agent 前 2 小时始终低于 30%。也就是说 agent 数量同时改善质量与速度。
质性发现(合作形式随规模涌现并标准化):8 agents——协商技术接口(gromacs 中 worker 们公布模块接口后独立实现)、自主解决 CLAIM 重叠(FFmpeg 中一方改做互补工作);32 agents——多人评审与集成管理(PHP-src 中反例撤回已给的批准、修复后再审再合并);128 agents——评审关系复用(按相关经验选 reviewer)、标准化集成协议(pandoc 中"作者更新测试分支→发 commit hash→peer 验证合并"的协议被后来者复用,失败后修订为授权 peer 全程完成更新-测试-检查-合并);1,024 agents——同职能多实例(多个 integrator,作者联系若干候选、选首个有效响应者、取消其余)与失败接管(同技术领域的 worker 接管他人失败的工作)。
这个实验为何能证明主张:模型、单 agent harness、预算全部固定,唯一变量是 worker 数;且对照不是弱 baseline 而是同配置单 agent(还加了防提前收工的 stop hook,逼满 6h)。缩放曲线单调上升 + 合作形式随规模升级,共同支撑"agent 数量是扩展维度"的核心论点。
5.2 SelfSearch:六格全胜与 $4.03 传说
设置:2 种模型配置(GPT:搜索用 gpt-5.6-sol / 执行用 gpt-5.6-luna;DeepSeek:搜索用 v4-pro / 执行用 v4-flash)× 3 个基准(SWE-bench Verified 120 题、SWE-bench Multilingual 60 题八语言、Terminal-Bench 2.1 全部 89 题),十代双 lineage,报告终代两个 agent 的个体值与总体均值。
主结果(Table 1,成功率 %):
| 基准 | GPT B₀→B꜀ | GPT B₀→Bₐ | DS B₀→B꜀ | DS B₀→Bₐ |
|---|---|---|---|---|
| SWE-bench Verified | 75.0→77.5 | 75.0→75.0 | 81.7→86.7 | 81.7→86.7 |
| SWE-bench Multilingual | 53.3→60.0 | 53.3→58.3 | 68.3→66.7 | 68.3→73.3 |
| Terminal-Bench 2.1 | 43.8→55.1 | 43.8→44.9 | 65.2→73.0 | 65.2→71.9 |
个体最大增益 11.2pp(GPT B꜀ Terminal-Bench);六格总体均值全部超过基线。效率侧:DeepSeek Bₐ 在 SWE-bench Multilingual +5.0pp 的同时共享成功任务成本降 38.5%;Terminal-Bench DeepSeek 两 lineage 平均成本降 12.1%/16.9%。
外部对标:DeepSeek B꜀ 换到公开九 harness 评测的同设置(DeepSeek V4 Flash + xhigh),解 73/89(82.0%)Terminal-Bench 2.1,追平该评测最高分的 Codex(两者各解 73 题、66 题重叠、各独占 7 题),而搜索成本仅 $4.03。
消融(Table 4,SWE-bench Verified 均值):去掉 episode 记录 GPT/DS 分别降 2.1/2.9pp;固定 improver(永远用 B₀ 当改进者)降 1.7/2.9pp——两条机制(读历史记录、改进者自身进化)都有贡献。
证据链解读:改进不是玄学——演化出的工具确实被下游复用(Table 12:DeepSeek 文本搜索在 21.6%/25.7% 任务、行范围查看在 29.0%/38.7% 任务上被调用;exact-text replacement 高达 70%+),且这些工具(行范围查看、精确替换、有界搜索输出)正是 SWE-agent 系工作验证过的 agent-计算机接口设计。跨模型迁移(GPT 搜出的 harness 给 DeepSeek 执行 81.7→83.3/85.0;反向 75.0→79.2/76.7)进一步排除"过拟合执行模型"的解释。
5.3 VERSE:16/16 全胜与"自进化反转”
协议:SWE-rebench(持续刷新的 GitHub issue 任务池),训练 110 / 验证 50 / in-dist 测试 108(2026 年 3 月发布)完全不相交;OOD 测试 107 个五语言任务(2026 年 7 月发布,仅 20 个 Python)。优化器 Qwen3.8-Flash-Next(176B/6B 激活),executor Qwen3.8-27B,均冻结,6 轮。报告 avg@3 准确率,按验证集选轮(Val-selected)为主结果。
动机实验(Observation 1,Table 1)——本文最锋利的一张表:
| 配置 | r* | 测试准确率 |
|---|---|---|
| Blank(初始 h₀) | – | 33.95 |
| Meta-Harness(基线) | 4 | 39.20 |
| 自进化、无验证 | 0 | 31.79(比 Blank 还差) |
| 仅简单验证 | 5 | 39.81 |
| 自进化 + 简单验证 | 6 | 41.05(最高) |
自进化无验证时没有任何一轮在验证集上赢过第 0 轮,验证直接选中初始 harness(r*=0)。附录 J.2 的逐轮复盘展示了惨状:优化器 round 1 提交 40KB 八文件 harness,一个 hook 的输出格式被运行时拒绝,错误出现在 13/50 验证运行和 40/110 训练运行中——它无法在提交前发现自己的代码是坏的,round 5 干脆全部推翻回到初始 harness,最后在自己的 prompt 里写下"harness 之间差 9-30KB 代码、分数差 3 分,原因我看不见"。
主结果(Table 2):VERSE (w/ self-evolve) 叠加四宿主,16 项对比(4 宿主 × 2 测试集 × 2 选择口径)全部超过未装备基线,幅度 0.6–10.3 点。最佳配置 Meta-Harness+VERSE:in-dist 42.28±1.11 vs 最强基线 39.20±1.11(+3.1);OOD 37.69±1.56 vs 29.28(+8.4,比 Blank 27.41 高 10.3)。OOD 按语言分:Go +10.3、Java +10.3、TS +4.9、Python +4.2、Rust +2.3(四宿主平均),20 个宿主×语言对中 16 个提升。
进化日志揭示的"验证在干什么"(18 个运行聚合,Figure 5):提交编辑预期修复的 286 个失败任务中 90% 下一轮仍然失败;170 次草稿评估仅 17 次(10%)确认修复;验证结果变化 49% 不可复现——单次运行噪声大到"两次通过才算修复"不是保守而是必需。自进化的行为改变:34/81 次草稿评估自发加入回归检查(固定优化器仅 2/89);检查失败后 79% 修订草稿再提交(固定 57%)。
消融(Table 3,AHE 宿主):去掉归因+最小化损失约一半增益(37.96→35.80);预算实验(Figure 8)显示 1-2 单位时增益基本消失、4 单位起恢复——与理论"错误率随检查次数几何下降"一致。附录 H:随机/固定探针时刻表同样预算下更差甚至低于无验证基线——价值在优化器自己选择实验,不在额外算力。
泛化研究(附录 G):换领域(SWE→Terminal-Bench)时 executor harness 零样本会掉到 blank 以下、1-2 轮适应回到 blank 水平,真正跨域迁移的是优化器 harness(诊断/验证方法论);换 executor 模型时 harness 大多失效,例外是修复"跨模型常见工具使用错误"的组件(如替代 shell heredoc 的编辑器工具在 Qwen3-Coder 上零样本 +6 点)——修复共性摩擦的组件迁移,适配特定模型怪癖的组件不迁移。
5.4 评估设计对比:三种"证明自己"的方式
- Agensh 的证明靠控制变量 + 缩放曲线(唯一变量是 worker 数);
- SelfSearch 的证明靠机制消融 + 复用证据 + 迁移(工具被用、记录有用、跨模型迁移);
- VERSE 的证明靠受控四格实验 + 严格三分 + OOD 三重移(语言/领域/模型)。 三者共同点:都拒绝"在搜索集上报告"的老做法,这正是 2026 年 harness 研究的方法论进步。
六、效果优势的根源解释
6.1 根源机制与证据链
Agensh:协调的"物化"消除中心瓶颈
因果链:去掉编排器 → 任务发现/认领/整合职责下放到每个 worker 的五步循环 → 管理带宽不再随规模线性消耗任何单一上下文窗口(机制变化)→ 并发 worker 持续叠加贡献而不互相阻塞 → 固定 6h 内更多有效工作量转化为通过率提升与达标时间缩短(指标:19.31→28.78、30 分钟 vs 2 小时破 30%)。【论文实验支持:缩放曲线 + 轨迹分析】
第二层:三层基础设施把个体进展沉淀为组织级状态——FAIL 条目阻止重复试错(prompt 明言其"最高价值")、CLAIM 减少重复劳动、Git 合并机制消化并行写的冲突。这解释了为什么质量与速度同时改善:并行探索宽度 × 失败信息共享 = 组织级错误率下降。【论文实验支持(定性轨迹)+ 阅读者推测(FAIL 条目贡献未单独消融)】
SelfSearch:把"修改过程"变成训练数据
因果链:episode 记录暴露修改过程的具体困难(长轨迹读不完、编辑失败、观察被截断)→ 这些困难与下游任务同构(读陌生代码/诊断失败/实施修改/验证效果——论文假设原文)→ 针对它们发展的工具(有界搜索、行范围查看)在下游被 23.6%–40.3% 的任务实际复用(Table 12 证据)→ 指标提升来自能力沉淀而非 dev 集拟合。佐证:跨模型迁移成立(拟合执行模型怪僻的解释被排除)、消融显示记录与 evolving improver 各贡献 2-3pp。【论文实验支持。注意:SelfSearch 论文自述"还需检验增益在独立搜索间的重现性"——单次搜索的方差未量化,这是证据缺口】
为什么无奖励也行?因为局部检查替代了全局评估:agent 在自修改中仍能跑工具、看输出、验证改动——被去除的只是"下游 benchmark 分数"这个最贵的信号。GEPA 的结论(自然语言轨迹是比标量奖励更丰富的学习介质,35 倍少 rollout 胜 GRPO)从另一条路支持同一判断;SelfSearch 更激进,连任务级评估都不用于选择。【外部证据支持】
VERSE:验证改变信息结构,自进化改变搜索策略
因果链(三层,对应定理):
- 定理 1:只重读已有证据时错误修复率有 λ(1−λ)β₀² 下界——重放研究实证"读认得类型、认不准位置"(±1 步命中率 57.3%)→ trace minimization + 三验证工具引入依赖因果的新证据 → 错误率上界几何下降(实验:预算 1-2 单位无增益、4+ 单位恢复,与几何下降一致);
- 定理 2:rᵢ(1−eᵢ) 相乘——修复错误率 eᵢ 高时选靶改进无意义 → 这解释 Observation 1 的反转:无验证时自进化把错误教训写进自身(40KB 坏 harness、r*=0、31.79),有验证时同样的自进化把预算和精力投向"更好地测试"(41.05);
- 自进化的真实作用是改变实验策略而非增加算力:自发加回归金丝雀(34/81 vs 2/89)、失败后修订(79% vs 57%);随机/固定探针时刻表同样预算反而更差。【论文实验支持】
反事实自证:去掉验证的自进化 31.79 < Blank 33.95——自进化非但非充分,单独使用有害;这是三篇中对"关键设计必要性"最强的反事实验证。
6.2 相关工作检索与对照
| 研究 | 相似尝试 | 相关结论 | 与本文的差异与边界 | 对根源解释的影响 |
|---|---|---|---|---|
| DGM(ICLR 2026) | 自指自改进 + 档案库,SWE-bench 20→50% | 评测引导的自改进有效;文档了 reward hacking(agent 删掉自己的幻觉标记提分) | 依赖评测分数选择;SelfSearch 初始 agent 即改造自 DGM 但去掉了评测引导且结果仍有提升,说明过程记录可替代部分评测信号 | 支持"过程经验有效",同时其 reward hacking 案例反向支持 VERSE"验证必须独立于被优化者" |
| GEPA(DSPy 团队) | 自然语言反思 + Pareto 前沿做提示进化 | 语言轨迹比标量奖励信息更丰富,35 倍少 rollout 胜 GRPO | 仍用任务评估做候选选择;任务为通用 QA/数学,非长程 coding | 支持 SelfSearch 的认识论前提(过程文本 > 分数),但提示 VERSE 的提醒:GEPA 的选择仍依赖评估,与 SelfSearch"完全无奖励"有本质差异 |
| Anthropic 多智能体研究系统(2025.6) | orchestrator-worker 并行研究 | 比单 agent 高 90.2%;token 单项解释 80% 性能方差;多 agent 约耗 15 倍 token | 研究型只读任务、subagent 数个量级;明确说编码类任务并行度低、不适合 | 补充 Agensh:并行有效性依赖任务可分解性;Agensh 用 Git 合并把"写冲突"变为可管理,正是 Anthropic 未解决的编码场景 |
| Cognition: Don’t Build Multi-Agents → What’s Actually Working(2025-2026) | 生产环境多 agent 实践 | “并行写者脆弱”(上下文不共享/隐式决策冲突)→ 修正为"多 agent 贡献智能、写入单线程" | 基于 2025 年模型与生产观察;未见千人规模 | 部分挑战 Agensh 的并行写设定:Agensh 的回应是让"隐式决策"显式化进共享上下文(CLAIM/FACT/FAIL)+ Git 强制合并暴露冲突——两者在"冲突必须被机制消化"上一致,分歧在消化手段 |
| Meta-Harness(COLM 2026)等四优化器 | 读轨迹改 harness 的固定流程优化器 | harness 优化本身有效(VERSE 协议下 39.2 vs 33.95) | 原论文多在搜索集上报告(Wang et al. 2026b 批评为过拟合);VERSE 统一协议重实现 | 提供 VERSE 的对照系;其 OOD 增益近乎归零(+1.2)反衬 VERSE +8.4 的泛化来源是验证 + 自进化 |
| SWE-agent(agent-计算机接口) | 手工设计紧凑工具接口(行范围查看、精确替换等)大幅影响 coding agent 表现 | 工具接口设计是 harness 的第一性变量 | 人工设计 vs 自动发现 | 支持 SelfSearch 的机制解释:演化出的工具恰是已被人工验证有效的接口设计——自动发现收敛到与人工设计相同的好接口,说明改进真实而非 benchmark 拟合 |
6.3 综合判断与未决问题
多项研究共同支持的机制:(1) 过程性文本信号(轨迹/记录/反思)优于纯标量奖励——GEPA(提示优化)、SelfSearch(agent 搜索)、VERSE(优化器自进化读轮次审计)三处独立成立;(2) 执行式验证是自进化的前置条件——VERSE 的受控四格实验(31.79 vs 41.05)与定理 1/2,且 DGM 的 reward hacking 从反面补刀;(3) 共享外部化状态支撑去中心化协调——Agensh 与 DeLM/Anthropic 的工程报告一致。
仍属推测的部分:Agensh 的 FAIL 条目等单项贡献未被消融(多大规模的提升来自"不重复犯错"仍是推测);Agensh 的结论边界依赖"最终可验证、可合并"的任务形态——参考实现在、隐式需求可从行为反推的 ProgramBench 是理想土壤,需求模糊、验收主观的任务未必适用;SelfSearch 的增益稳定性(独立搜索间方差)论文自述未量化;VERSE 宿主间自进化边际收益不一致(16/16 胜基线,但相对"无自进化的 VERSE"仅在 3/8 个比较中更高),说明自进化的增益依赖宿主已有的证据接口质量。
可能的失效条件:任务并行度极低(串行依赖 dominates,Agensh 型组织无优势——Cognition/Anthropic 均有此提醒);自修改完全无局部检查可用(SelfSearch 的"无奖励"以工具反馈存在为前提,不是零信息条件);验证预算 <4 单位(VERSE Figure 8 增益消失);被优化者能触及评估器(DGM 的 reward hacking 教训:评估器必须在 agent 的可编辑命名空间之外)。
七、必要知识反推
假设一个空白的研究者要做这三篇论文的工作,他最少需要知道什么?
7.1 领域知识层
- Agent/harness 的解剖学:知道 agent = 模型 + 提示/工具/记忆/循环,且 harness 各层(prompt、skill、tool、hook、note)可分离编辑——VERSE 的五件套自进化空间、SelfSearch 的可编辑仓库都建立在这个分解上。不理解它就无法定义"改自己"到底改什么。
- 多智能体系统的协调理论:编排器–worker 结构及其失败模式(Anthropic 工程报告、Kimi Swarm 的训练需求)——不知道编排器为什么是瓶颈,就不会想到把它拆掉。
- 软件工程基础设施:Git 的分支/合并/冲突检测语义、issue/PR 工作流、Mattermost 式异步消息——Agensh 的三层基础设施全部是现成人类协作工具的移植,作者必须理解这些工具解决了人类协作中的什么问题才能判断它们能承载 agent 协调。
- SWE-bench 系基准的结构与缺陷:知道任务从哪来、打分怎么算、为什么"搜索集=报告集"是过拟合——VERSE 的三分协议和 Wang et al. 2026b 的批评是对话对象。
7.2 方法论知识层
- 进化搜索/元学习谱系:Gödel machine 的理论理想与"证明式接受"不可行 → DGM 的经验接受 + 档案库 → GEPA 的反思变异。SelfSearch 与 VERSE 都是在这条谱系上做减法(去奖励)或加约束(验证)。
- 统计决策理论:Bhattacharyya 系数、贝叶斯误差界、假设检验——VERSE 定理 1 的全部工具箱;双层优化(bilevel optimization)的 zakerinia 式"学习优化算法"视角。
- 元认知心理学:Flavell 1979——SelfSearch 的出发点 literally 是"人反思自己如何学习"的这一心理学概念。
7.3 工程知识层
- 事件驱动运行时:队列、去重、指数退避、空闲检测——Agensh 附录 B 的全部内容;
- 沙箱与安全边界:容器隔离、无网络、自写代码的安全检查与测试运行、评估器与被优化者的命名空间隔离——三篇各自的安全设计(SelfSearch 固定运行时、VERSE 安全检查 + 全程日志、DGM 教训);
- 成本核算:搜索成本 vs 执行成本分开记账、共享成功任务上的配对成本比较(SelfSearch 的 $4.03 vs baseline $7.53-12.35)、验证预算的单位化(VERSE)。
7.4 知识融合的关键节点
- 节点一(Agensh):把组织学的"协调机制物化"(Sociotechnical systems 里制度替代管理者)与 Git 工程语义融合——组织结构 = 基础设施拓扑,于是"扩组织"退化成"加容器",scaling 曲线才能画出来。
- 节点二(SelfSearch):把元认知心理学(过程经验)与进化搜索融合——episode 记录 = 免费的中间监督信号,于是搜索与评估解耦,成本断崖下降。
- 节点三(VERSE):把假设检验的信息论(Bhattacharyya 系数刻画证据模糊度)与 harness 工程融合——验证工具 = 往证据流里注入低重叠的新观测,于是"自进化何时有益"从经验问题变成有下界定理的可分析问题,并直接预言了 31.79 的反例。
八、论文中可以提取的通用性灵感
灵感一:把协调从计算转移为状态(去中心化的通用公式)
核心思想:当中心节点的容量成为瓶颈,把它的职责编译成共享外部状态 + 简单的本地规则,而不是训练一个更强的中心。 论文证据:Agensh 去编排器后 1→1,024 agent 通过率 33.89%→55.06%,五步循环 + 三层基础设施承载全部协调。 推广场景:微服务架构的网关瓶颈改为消息总线 + 服务自注册;分布式爬虫的任务分发改为共享队列 + 租约认领;科研基金评审的行政瓶颈改为公开注册的研究宣言认领制;城市交通信号中央优化改为路口间共享流量状态 + 局部规则。
灵感二:过程记录本身是监督信号(不必等到结果才知道对错)
核心思想:执行任何修改时产生的"怎么做、卡在哪、为何失败"的过程日志,与最终评测分数同构地指向改进方向——中间信号免费且无过拟合风险。 论文证据:SelfSearch 去掉 episode 记录降 2.1-2.9pp;演化工具被下游 23.6%-40.3% 复用;GEPA 的"语言轨迹 > 标量奖励"结论同源。 推广场景:学生刷题不看答案只复盘解题卡点;代码 review 关注 PR 描述的"试了什么没成"而非只看最终 diff;产品迭代记录"放弃了哪些方案及原因"作为组织记忆;康复训练记录动作失败模式而非只记体重。
灵感三:自进化必须先有验证,否则是自我污染(学习如何学习的前提是知道学没学对)
核心思想:允许系统修改自己的学习程序之前,必须先给它廉价可靠的"改动是否有效"检查器;否则错误的教训会被编译进系统自身,越改越糟。 论文证据:VERSE 中无验证自进化 31.79 < 初始 33.95,有验证 41.05 最优;49% 的单次结果变化不可复现,“两次通过才算数"是必需品;DGM 的 reward hacking 反向印证评估器必须隔离。 推广场景:个人知识管理先建"这条笔记被引用时是否真的有用"的反馈再谈方法迭代;自动化运维先建灰度验证再允许系统自动改配置;机构改革先设试点评估机制再推广"改革方法论”;健身先建立动作有效性测量再自由变换训练计划。
灵感四:失败路径的共享是组织级最高价值资产
核心思想:记录"什么没用"并广播,比记录成功更能提升群体效率——它直接削减他人的搜索空间。 论文证据:Agensh 把 FAIL 条目在 prompt 中标注为"最高价值条目"(“它阻止同侪在同一个坑里花预算”);VERSE 的训练审计本质是跨轮的失败回退追踪。 推广场景:科研中的阴性结果报告制度;企业内部"失败复盘会"的结构化沉淀;开源生态的"已知不 work"清单(如 awesome-list 的反模式节);药物研发的失败临床试验数据库共享。
灵感五:质量不够时,数量和时间是可互换的三个自由度
核心思想:固定模型能力下,(agent 数量 × 时间预算 × 并行宽度) 构成可调配的资源三角——用钱换时间(更多 agent 提前达标)或用时间换钱(少 agent 慢慢磨)。 论文证据:Agensh 128 agents 30 分钟破 30% vs 单 agent 2 小时不破;SelfSearch $4.03 搜索成本追平商业级 harness。 推广场景:渲染农场的节点数 vs 截稿期权衡;客服中心人力 vs 排队时长;批量生产的并行产线 vs 库存周转;科学计算的任务分片粒度选择。
灵感六:验证的价值在于"你选择做什么实验",不在额外算力
核心思想:同样的实验预算,由决策者基于假设自主选择实验内容,价值显著高于固定时刻表或随机消耗——实验的信息量取决于它与当前假设的因果耦合。 论文证据:VERSE 附录 H,同预算下随机探针时刻表掉点、固定手写时刻表甚至低于无验证基线;定理 1 中 ρⱼ(检查与因果的重叠度)决定信息增益。 推广场景:A/B 测试的假设驱动设计优于定时全量对比;医学检验按鉴别诊断开单而非套餐体检;调试中定向复现优于反复重跑;教育中针对性练习优于题海。
附录:三篇速览卡
| Agensh | SelfSearch | VERSE | |
|---|---|---|---|
| 一句话 | 无编排器自组织扩到 1,024 agents | 无奖励、读自修改记录的自我改进 | 验证加持的优化器自进化 |
| 机构 | Microsoft Research | 首尔国立大学 | MIT + Amazon(实习合作) |
| 核心机制 | 五步合作循环 + Git/Mattermost/共享上下文 | 双 lineage + episode 记录 + 固定运行时 | trace 最小化 + 验证三工具 + 训练审计 + 自进化 |
| 基准 | ProgramBench 最难 5 任务 | SWE-bench V/M + Terminal-Bench 2.1 | SWE-rebench + OOD 五语言 + Terminal-Bench |
| 头条数字 | 1→128: 19.31→28.78%;pandoc 1,024: 55.06% | $4.03 追平 Codex(TB 82.0%);+5.0pp 且成本 -38.5% | 42.28 vs 39.20(in-dist)、OOD +8.4pp;无验证自进化 31.79 |
| 理论 | 无(实证缩放) | 无(算法 + 消融) | 定理 1(修复选择)+ 定理 2(双层收益) |
| 开源 | github.com/microsoft/Agensh | 未发布 | github.com/wzekai/VERSE |