论文链接:

一、论文背景:当模型进步慢下来,周围的世界要动起来

三篇论文表面上分属三个领域——数据分析智能体、机器人操作策略、开放式任务自我改进——但它们瞄准的是同一个结构性瓶颈:模型本体的进步越来越贵,而模型周围的东西(环境、数据、反馈)还停留在手工时代。先逐一建立背景概念,再看它们如何拼成一幅图。

第一个概念:数据智能体(Data Agent)。这是 Data World 的研究对象。数据智能体用代码检查异构文件(CSV、Excel、日志),计算数量并得出有证据支撑的分析结论。训练它们需要两样东西同时到位:多样化的多步分析环境,以及能区分正确结论与错误结论的反馈。现实里这两样都缺——真实工作流获取与标注成本高,隐私和知识产权限制复用;更麻烦的是可验证性:真实文件背后的生成过程不可知,开放式发现只能依赖人工标注的参考答案或近似匹配。还有一个隐蔽的风险:复用公开数据集做训练与评测会引入预训练污染——模型可能在预训练时已经见过这些数据的结论。已有的开放式洞察发现基准(DiscoveryBench、BLADE、InsightBench、InsightEval)都在评分智能体能挖出什么洞见,但环境都取自既有数据源、参考洞见来自专家标注或模型探索,监督的天花板就是策展者自己的发现能力。

第二个概念:生成式仿真(Generative Simulation)。这是 CoDA 的背景。机器人操作数据长期依赖仿真,而搭建一个仿真环境需要任务设计、语义合适的资产、合理布局和训练信号,全靠手工。编码智能体现在能自动合成场景和任务规范,环境不再稀缺——但新问题出现了:物理上有效的环境不等于对训练有用的环境。生成器不知道该造哪些环境,可能把预算花在策略早已掌握或根本学不会的场景上。判别这两个极端需要知道「策略通过训练能进步多少」,而这恰恰是成功率这类静态指标给不出的信息。长依赖子任务序列还带来第二个困难:稀疏的成功信号让价值学习极慢,而手工设计密集奖励又需要专家投入。

第三个概念:无训练自我改进(Training-Free Self-Improvement)。这是 UCoE 的场景。智能体用反馈做两件事:修改即将返回的回复,并把经验存进 harness 状态影响后续任务。在数学和编程上,精确答案或可执行测试可以充当反馈的锚点;但开放式任务(写作、综述、综合助手)没有参考答案,智能体只能依赖基于模型的验证器。验证器一旦出错,当前回复会变差,误导性经验还会在任务流中持续存在;而一成不变的验证器会随着智能体水平提升和任务需求变化而过时。既有方案各有缺口:整体性裁判把各维度贡献压成一个分数,维度间盲区被掩盖;自然语言评分表显式但可能不完备、混淆或冗余;可执行奖励程序暴露了评估路径但结构不保证行为;训练式验证器(生成式奖励模型、评分表条件裁判)有效但要付出模型训练阶段的算力,且部署后同样冻结。

三篇论文的共同判断是:与其继续手工供给环境、手工设计奖励、手工固定验证器,不如让这些外围系统自己进化。这就是贯穿本组合读的关键词——共同进化(co-evolution)。

值得强调的是三篇论文对反馈缺口的诊断方式。Data World 把缺口定位在供给端:环境太少、太假、答案没法核对;CoDA 把缺口定位在匹配端:环境很多但不知道哪个对当前策略有用;UCoE 把缺口定位在裁判端:反馈存在但裁判本身会错、会过时。三个诊断互相不可替代——这预示着完整形态的共同进化系统可能需要三者兼备,但每篇论文都只证明了各自一半。

二、论文定位和关联工作

三篇论文恰好构成了共同进化谱系的三个分支,互为参照。先说明一点:三篇的 Related Work 没有互相引用(同周挂出,彼此尚未可见),本节的谱系梳理是本篇合读补充的横向视角。

2.1 环境合成谱系(Data World 的位置)

早期交互环境如 WebArena、τ-bench 靠手工策展,难以规模化。近期流水线开始合成环境:Agent World Model 和 ScaleEnv 从平台名或领域关键词出发生长出模拟工具、数据库和任务;EnvScaler 与 ASTRA 从已有轨迹蒸馏环境;EnvFactory 与 Agent-World 从网络发现的 MCP 接口组装环境。在合成数据方向,GReaT、SDV、REaLTabFormer 从已有数据库学习;Synthea(2018 年发表于 JAMIA)则用显式机制模拟合成病历,是机制先行思路的先声。Data World 与它们的区别:面向终端文件分析而非模拟工具 API,且核心卖点是审计分析目标在不完美观测下的可恢复性。任务合成方面,探索式方法(在固定环境里探任务)把监督绑死在策展模型能发现的东西上,Data World 用生成记录直接锚定任务,附录还给出了一个直观理论分析:同等评分项预算下,能看到世界规范的理想写手覆盖的有效发现不少于只看文件的写手。

2.2 课程学习与共同进化谱系(CoDA 的位置)

课程方法用遗憾值、学习潜力或参数变化来排环境优先级;POET(2019,arXiv:1901.01753)是环境与智能体共同进化的经典工作,不断生成越来越复杂的环境及其解。在 CoDA 之前,最接近的闭环是按任务成功率分配生成预算的标量反馈共同进化(如 Simworld Studio)。CoDA 的差异化主张:成功率只说明策略现在多好,不说明策略通过训练能进步多少——它引入学习进度(learning progress)来度量后者,并把失败诊断(归因到一个生成因子 × 一个轨迹阶段)作为闭环的中介表示。奖励合成方面,Text2Reward 用语言模型写奖励函数但依赖人工描述失败;CoDA 的 Text2potential 站在 Ng-Harada-Russell 1999 年势函数塑形(ICML 1999,证明势函数形式的塑形不改变最优策略)的经典结果之上,只塑形价值目标而不替换任务奖励。

2.3 验证器进化谱系(UCoE 的位置)

开放式反馈的既有方案:整体性 LLM 裁判(各维度贡献隐式)、自然语言评分表(RaR)、可执行奖励程序(DREAM 的 Reward-DAG)、学习式验证器。Red Queen Gödel Machine(arXiv:2606.26294)提出智能体与评价者共同进化但依赖参数训练;CoNL 用改进量评价批评。UCoE 的独特定位:全部适应都在模型参数之外——验证器程序(准则 + 聚合表达式)与 harness 状态共同演化,用带声明偏好的响应对比集(思想直接源自 Gardner 等 2020 年的 Contrast Sets,EMNLP Findings)做选择与更新测试。Data World 也引用了 Rubrics as Rewards 方向(arXiv:2507.17746),但其评分表锚定在生成记录上;UCoE 的验证器锚定在对比集行为上。

无训练自我改进的另一支是经验保留:Reflexion、ExpeL、Dynamic Cheatsheet、A-MEM 存储或组织跨任务经验,ACE 与递归 Harness 自我改进把适应扩展到上下文与 prompt 级 harness。这一整支的共同盲区(UCoE 的切入点):它们都把反馈/选择过程当作给定的——经验存什么、怎么存可以进化,但判断好坏的尺子是固定的。UCoE 把尺子本身也纳入进化,同时用 prequential 评测(每任务评分都产自其之前的状态)保证比较的公平。

2.4 定位对比表

维度之前的路线本组的突破
环境手工策展 / 探索既有文件挖任务(Data World 前身);按成功率造环境(CoDA 前身);固定验证器(UCoE 前身)机制先行 + 可审计(DW);失败诊断 + 学习进度引导(CoDA);验证器程序本身进化(UCoE)
进化的载体模型参数(RL/SFT)环境/任务/评分表(DW);生成程序 + 训练程序(CoDA);验证器代码 + harness 状态(UCoE)
反馈锚点人工标注 / 标量成功率 / 固定裁判生成记录 + 审计(DW);势函数塑形(CoDA);响应对比集(UCoE)
是否改模型参数是(RL)DW 改(RL-zero);CoDA 改(AWR);UCoE 完全不改

谱系上还有一个值得注意的时序细节:三篇论文都在 2026 年 10 月中旬的一周内挂出,且各自引用了不同的环境合成/验证器进化同期工作(DW 引 Agent World Model、ScaleEnv、EnvFactory 等;UCoE 引 DREAM、EvoRS、Red Queen 等)而互不引用——这说明共同进化方向已经到了多条线同时收敛的阶段,领域正在从探索期进入工程化竞争期。

三、问题定义:把共同进化抽象出来

三篇论文面对的具体场景不同,但抽象后是同一个结构:一个难以直接改进的核心系统(智能体/策略/演员模型),加一个可以廉价重写的辅助系统(环境供给/数据引擎/验证器),问:辅助系统应如何围绕核心系统的当前状态演化,才能持续供给有用的训练或反馈信号?

抽象要素Data WorldCoDAUCoE
核心系统数据智能体(LLM)操作策略 πθ固定演员 Fθ0
辅助系统世界合成引擎(环境+任务+评分表)仿真数据引擎 G可执行验证器程序 V
中介状态世界契约 + 审计记录共享异构记忆 Mharness 状态 H + 诊断历史 E
演化信号生成记录可复算性失败诊断 + 学习进度对比集上的判别力(driving capacity)
形式化世界 W=(G,X,E,I),E=O(X)环境 s=(τ,σ,α),模式 Kj 的硬度×重要性V=(Φ,A,D),CB(V)=¼·min Jj

Data World 的形式化:一个世界是四元组 W=(G,X,E,I)。G 是有向无环依赖骨架(节点是变量簇,边带单调/阈值/饱和/滞后/交互等生成关系);X 是规范状态(世界真相);E=O(X) 是分析师可见的数据环境(观测映射 O 引入缺失值、延迟、重复、单位漂移、无标注外键等缺陷);I 是可复算现象集。流程为 G→C→X→E=O(X)→审计→W→任务合成→T。约束:任务与评分表必须锚定在审计过的生成过程上,且每个目标现象都要能仅从 E 恢复。精妙之处在于把可验证性从结果端(对答案)移到了生成端(知道机制)——开放式的洞见本来无标准答案可对,但机制既知,「哪些结论被生成过程支持」就有了客观判据。

CoDA 的形式化:环境参数化为 s=(τ,σ,α)(任务因子/空间因子/物体自属性因子),引擎可独立重采任一因子。视觉-语言批评器把失败诊断限定为 ψ=(δ,p,c,e)——归因因子 δ∈{TASK,SPATIAL,ATTRIBUTE,EXECUTION}、轨迹阶段 p、自然语言成因 c、证据 e。诊断聚类成可复用难度模式 Kj,编译成生成程序(重建难度)与训练程序(克服难度)。关键约束:诊断必须落在引擎可修改的因子上,否则闭环断裂。

UCoE 的形式化:验证器是程序 V=(Φ,A,D)——准则打分器集合 Φ、聚合表达式 A、把最弱准则转成修复反馈的诊断过程 D。选择目标是 driving capacity:验证器在其最弱对比族上的判别力,CB(V)=¼·min_j J_j(h_V),其中 J_j=2p_j−1 是居中准确率。定理 1 证明最大化该量等价于最大化对所有对比族混合的最坏情况选择成功率——这是一个极大化极小(maximin)结构。命题 2 的配对分解给出选择增益的完整归因:期望提升 = q/2 × ΔJ_mix,q 是配对中两个回复质量确实有差异的比例(演员供给的机会),J_mix 是选择器在混合对上的判别力(验证器供给的能力)——q=0 时任何选择器都无济于事,这把「改进空间」与「利用空间」干净地分开。命题 3 用 Hoeffding 界保证经验最优候选与池中最优的总体差距不超过采样误差加优化误差的两倍。这个抽象的精妙处:用最短板而非平均分来挑验证器,防止在容易属性上的强势掩盖盲区。

三条形式化还有一个共享的设计选择:它们都把进化中介限定为程序或结构化记录(DAG 契约、难度模式、验证器代码),而不是自由文本或模型参数。这是抽象层面对可控性的回答——只有可检查、可复算的中介才能带上对照测试与审计,闭坏了的环比闭不上的环更危险。

四、问题解法

4.1 Data World:机制先行的世界合成

类比:传统合成数据像照着旧画临摹(从真实数据学分布),Data World 像先写剧本再拍电影——剧本(机制)在手,每个情节(分析目标)都有据可查。

流程分五步,每步用独立智能体会话、只通过磁盘工件通信(无共享对话状态),构建模型统一用 GLM 5.3 跑在 Claude Code harness 里:

  1. 依赖骨架:用 PersonaHub 人设提示 LLM 构建合成 DAG。
  2. 世界契约 C:契约写作智能体把 DAG 具体化为结构化契约——实体与时间线、每条边的生成机制(函数形式、异质性、时间行为、混淆因子)、全局不变量(标识符/单位/共享事件跨层一致)、观测系统(真相通过哪些有缺陷的业务系统被观测)、最终交付物与可复算现象 I。契约在数据生成前固定,约束后续所有阶段。
  3. 规范真值生成:按拓扑分层,每层一个智能体会话写确定性脚本生成该层状态;上游状态严格只读;层内事务性提交(不存在半成品状态);每条边的关联模式做经验检查并记入台账。
  4. 观测投影:独立会话把 O 施加于 X 得到分析师可见文件——同一实体在不同系统里拼写和键约定不同、缺失/延迟/重复/单位漂移/模式漂移各对应一个具体观测过程、文件靠无标注外键互连且无数据字典。
  5. 独立审计:审计者用自己的脚本重查每条指定边关系、全局不变量和 I 中每个现象,只能给出通过/失败裁决,禁止修改环境或真值。测试世界须通过全部审计;训练世界过滤较宽(DAG 边通过率 95.98%)。

任务合成:任务锚定单个目标节点,走因果路线(沿入边解释变化)或后果路线(沿出边追溯影响);按深度分层选最大度节点保证骨架均匀覆盖。问题写手有只读访问权(契约、脚本、台账、规范状态、世界指南),先确认目标现象可从 E 推导再写评分项——评分表区分数据计算与洞察发现两类,正项给受支持的结论、负项给可证伪的错误。15 人标注团队做问题真实性人工策展,产出 DataWorld-Bench(50 个 held-out 世界、16 领域、100 任务)与 2,135 个 RL 训练任务(来自 1,037 个不相交世界)。

举一个论文附录里的具体任务感受环境形态:公共安全因果路线任务给了分析师一个 47 个普查区、2015–2025 年的中型城市目录,含警察、学校、住房法院、公共健康、少年司法等十几个子系统文件夹(最大单文件 25.8M 的学生参与度数据、21.3M 的接警记录),问题来自公共安全委员会成员:接警量上升的真实驱动是什么——是街头警力、预算、巡逻片区还是季节?种族模式在控制部署分布后是否仍然成立?要求区分真实驱动、数据伪影与看似成立的假象。这种任务的多表关联、跨系统对账需求,正是不完美观测投影刻意制造的难度。

4.2 CoDA:共享记忆驱动的引擎-策略闭环

类比:如果说 Data World 是先有剧本再拍戏,CoDA 像一个配了教练的运动员训练系统——教练(批评器)看录像(rollout)诊断失误归因,器材师(数据引擎)针对性造训练器械(环境),训练计划(Text2potential)则把诊断变成可执行的加练科目。

先明确角色分工:数据引擎 G 是工具增强的编码智能体,写可执行场景程序并附带机器可查的成功判定 ν;操作策略 πθ 在环境里采 rollout;视觉-语言批评器 C 诊断失败(归因到单因子单阶段);共享记忆 M 把证据整合成可复用难度模式。每个场景程序定义的环境都带独立的任务、空间、物体属性三因子(τ,σ,α),SDK 暴露 set_task / set_layout / set_attributes 三个接口,引擎可单独重采任一因子而固定其余——这个因子化是整个闭环的基石。

三层记忆(沿用情景-语义-程序组织):

  • 情景层:追加式轨迹存储,记录场景程序、验证器、生成轨迹摘要、部署后的成功率与学习进度、失败诊断。
  • 语义层:诊断在线聚类成难度模式 Kj,用两个量刻画——硬度(策略成功率,越低越难)与重要性 wj(按模式级学习进度滚动更新)。硬而学不动的模式和练会后变简单的模式被区分对待。每个模式带对照批次验证状态,只有验证过的才编译进程序记忆。
  • 程序层:同一验证模式编译成两套程序——生成程序 Ω(保留父场景程序、单因子变体、符号角色关系结构,可跨任务族绑定迁移)与训练程序 Φ(子目标分解、势函数、学习工具)。

对照验证是 CoDA 的方法学亮点:对每个候选难度模式,引擎生成一批只变目标因子的变体和一批变其他因子的对照变体;只有目标变体比对照变体让策略成功率显著更低,诊断才被采纳。这直接拒绝了 18.2% 的批评器诊断,把诊断与人工标注的一致性从 73.6% 提到 82.4%。预算分配用基于硬度与学习进度的置信上界规则,另保留 ε=0.15 预算给全新环境、0.10 给重访既有模式以检测性能回退——探索与利用在模式层面显式建模。批评器模型的可替换性也验证过:GPT-5.5 换成 Claude Opus 5、InternVL3-78B 或 Qwen3-VL-235B,OOD 成功率从 27.6% 分别微降至 26.1%、25.7%、24.9%,全部仍显著高于成功率引导 baseline——框架不绑定特定诊断模型。

Text2potential:把验证过的失败诊断编译成分段势函数 Φ(s)=k*(s)+φ_{k*+1}(s)(k* 为已满足子目标数,φ 为子目标内进度)。依据 Ng-Harada-Russell 的经典结论,有界势函数塑形不改变最优策略——验证器 ν 仍是唯一成功判据,塑形只加速价值学习。策略训练用动作块级价值批评器 Qϕ(DINOv2-B + T5-base 编码器)+ 优势加权回归更新 π0.5,塑形项只需在块端点求值。当某子目标成功率近零且有规划器演示时退回行为克隆;学习进度 plateau 或带内模式不足 8 个时触发新一轮生成。跨任务族迁移通过符号角色绑定实现:生成程序按 target/obstacle/support 等角色而非具体物体实例引用对象,匹配新场景符号表即可复用——跨族迁移平均获得族内学习进度的 60.3%,而同等 LLM 预算从零学习仅 35.8%。

4.3 UCoE:验证器程序与 harness 状态的双进化

类比:UCoE 像给一位水平封顶的写手配一位不断进修的编辑——编辑的评审手册(验证器程序)本身会被修订,修订稿必须先通过一套盲测题(响应对比集)才能上岗。

先交代问题设定:任务流 x1..xT,固定演员 Fθ0,每个方法带自己的 harness 状态 Ht。生命周期固定为——演员基于 Ht 生成草稿;方法用自己的反馈与选择规则至多产出一次修订并决定返回哪个;返回之后才更新 Ht+1。任何方法都看不到基准答案或最终评测反馈。主实验中 Ht 是有界程序性记忆(每方法一个隔离实例、相同容量与更新规则),这样比较只差在反馈机制本身。

三个阶段:

  1. 合成:验证器模型从公开任务元数据 + 关系发现结果提出候选程序。关系发现让演员和一个更大的冻结比较模型回答相同开发提示,验证器模型盲读两版差异(随机顺序、隐藏系统身份),把跨提示复现的差异变成二元准则(要求:至少三个开发提示中复现、能写成单条二元准则、且存在只破坏该性质的单一编辑)。每个候选程序 = 准则集 + 至多两个新准则 + 一个有界聚合表达式(可用算术、min/max、序统计、条件依赖),静态校验器保证可执行且输出落在 [0,1]。语义准则由验证器模型打分,机械准则(长度/结构、8-gram 重复率)本地计算。
  2. 选择:构造响应对比集——以演员自己写的校准回复为基底 y+,做一次定向编辑破坏单一性质得 y−(三个通用族:删关键内容、注无依据断言、插无关材料;关系族按同规则扩展)。每个候选按 driving capacity(最弱族判别力)排名,防止均值掩盖盲区。
  3. 进化:部署中验证器诊断草稿最弱准则、引导一次局部修复、按奖励边际决定采用与否;只有被接受的修复才能蒸馏成程序性经验进入 harness 状态(触发词≤10 词、动作≤14 词、总容量 12 条、Jaccard 0.75 去重、弱者驱逐)。检查点上,已完任务的诊断摘要(接受率、最弱准则统计、状态规模)播种新候选,新候选必须在同一对比集上满足三条更新准则(选择分裂上最弱族严格提升、held-out 对比赢多于输、任一既有族回退不超过容差 κ=0.10)才能替换现验证器,否则保留。

一个具体的进化实例:Arena-Hard 运行中,V0 在前 128 个任务的 111 次诊断里最弱准则都是正确性;task 128 处采纳的 V1 把正确性权重从 0.25 提到 0.5、聚合乘上 0.4+0.6·co(错误回复至多保留 0.4 分);task 256 处一个更激进的候选因选择分裂上无严格增益被拒绝,验证器保持不变——进化只在对比集证明有益时发生。

诊断与修复的粒度也值得一提。诊断过程拿冻结的分数向量与最弱准则,返回不超过 40 词的定位证据与不超过 25 词的修复指令;演员只做一次保持无关内容的局部修复。论文附录给了一个成功样例:草稿把假阳性率定义写成 P(T+|D+),诊断指出应为 P(T+|D−),演员改了三行公式,聚合分从 0.168 升到 0.950,修复被采用。另一个失败样例同样有教益:诊断错误地反对一个正确的 n 依赖推导,演员把整段推导删到只剩答案,验证器反而打高分并采用了这个变差的回复——单一错误判断可以同时损害当前回复并把误导经验存进状态,这正是 UCoE 要用对照测试与有界更新围住的风险。

4.4 全景对比表

组件Data WorldCoDAUCoE
进化对象环境+任务+评分表生成程序+训练程序+难度模式验证器程序+harness 状态
一致性保障独立审计+只读工件对照批次+物理有效性检查对比集回归容差+三重更新准则
反馈形态生成记录锚定的原子评分项分段势函数(策略不变性保持)准则分数+聚合奖励
训练方式GSPO RL-zero块级价值学习+AWR无训练(一次局部修复)
复用机制世界不相交切分符号角色绑定跨族迁移程序性记忆跨任务检索

五、评估指标与实验证据

5.1 Data World:computation–insight gap 与 RL 迁移

主指标:DataWorld-Bench 归一化评分表得分([0,1]×100),由 Gemini-3.8-Flash 单轮裁判按正负评分项逐条打分;分数据计算与洞察发现两个子分。基准规模:100 任务 / 50 held-out 世界 / 16 领域;训练集 2,135 任务 / 1,037 世界,与测试世界完全不相交——这个设计直接堵住了记忆训练答案的解释。

十个前沿模型(统一 mini-swe-agent harness,bash 为唯一工具的 ReAct 循环)上,最佳总分 74.43(GPT-6-Astra)、最佳洞察分 67.95(Qwen-3.8-Max-0902);每个模型都出现 4.87–21.35 分的计算-洞察差距——强数据处理并不自动转化为有针对性的分析结论。这个指标设计证明论点的方式:把计算和洞察拆开计分,差距本身就成了发现。十模型总表(数据计算 / 洞察发现 / 总分):

模型计算洞察总分轮次总 tokens
GPT-6-Astra87.8066.4574.4328.7121.9k
Qwen-3.8-Max-090282.3667.9573.4382.7289.7k
GPT-6.1-Sol85.5966.0273.3031.2135.2k
GLM 5.375.0863.1867.6989.9238.7k
HY4-Preview77.2760.0066.5570.7177.9k
Kimi-K372.6462.8966.3936.497.5k
DeepSeek-V4.1-Flash72.3057.3462.9558.1150.7k
Qwen-3.8-27B66.9354.9359.6455.1170.4k
Gemini-3.8-Flash59.0054.1356.1762.398.8k
MiniMax-M353.3947.3949.7593.8158.4k

领域分析显示生物信息(+7.70)、运维(+7.25)、能源(+6.21)相对容易,交通(−11.44)、环境(−8.50)、教育(−6.22)更难。

训练效用(DataWorld-35B-A3B,基于 Qwen3.6-35B-A3B,GSPO,rubric 裁判用基模型自身以省算奖成本,48 训练 + 64 rollout H20-3e GPU,群组规模 8、全局批 192 响应、恒定学习率 1e-6)。对比的三个同基座模型都经过大量多阶段训练且使用教师蒸馏轨迹,唯独 DataWorld-35B-A3B 是 RL-zero——不用更强模型的解题演示,只用自身 rollout 与 rubric 奖励,排除蒸馏混杂:

模型(同基座)JobBenchDACompDABstep-HardDataWorld-Bench
基座 Qwen3.6-35B-A3B18.3153.7225.6637.64
DataMind-35B-A3B(7,323 公开任务重训)+4.63+1.07+5.56−0.29
BigBang-v1+2.53+0.58+8.99+2.41
Occamy-1.0+11.87+11.13+18.78+4.74
DataWorld-35B-A3B+12.13+14.28+20.90+7.06

四个基准全部第一,且是唯一不蒸馏更强模型轨迹的。关键对照:DataMind 在外部基准上也有提升但 held-out DataWorld-Bench 基本不动(−0.29)——说明既有基准上的提升未必迁移到机制接地的洞察任务,反过来凸显世界不相交训练的价值。相对幅度上 JobBench +66.2%、DABstep-Hard +81.4%。通用能力保持:MMLU-Pro 持平 84.73,LCB-Hard 71.14→70.29,SimpleQA-V F1 反升至 24.00。还有一个统计上的克制值得称赞:因果 vs 后果两种任务路线的配对检验中,没有任何模型的差异达到其最小可检测差异(MDE),论文如实报告没有证据表明哪条路线系统性更难,而不是硬找一个结论。交互成本上 GPT-6-Astra 以最少轮次领先总分、MiniMax-M3 轮次最多却垫底,说明更长交互本身不保证更强分析;负评分项分布显示两个 GPT 模型触发错误最少,但 Qwen-3.8-Max 洞察分更高——避免错误结论与找回目标发现是两种可分离的能力。

5.2 CoDA:OOD 成功率与逐轮增益

主指标:四个任务族(pick-place / articulated / put-inside / stack-insert)各一个分布内套件 + 四个 held-out 套件(未见物体实例/布局/任务/类别,各 100 环境)上的成功率,三种子平均(种子同时扰动生成、rollout 与训练)。预算对齐:所有生成 baseline 用相同 SDK 与接受环境预算(每族 320 个接受环境、1,280 个规划器认证演示、2.5M LLM tokens)。资产池 1,200 个 Objaverse 刚体(60 类)+ 300 个 ArtiCraft 铰接物体 + 500 个 TableVerse 种子布局;策略主干 π0.5(3B,流匹配动作头),7-DoF Franka Panda,10Hz 控制,动作块长 h=8。

生成策略平均 OOD 成功率
预训练零样本2.3%
+ 种子演示 SFT5.3%
域随机化7.9%
均匀变体(SimFoundry)8.5%
标量反馈共同进化18.1%
本文批评器、无记忆19.2%
CoDA 完整27.6%

比最强闭环 baseline 高 9.5 个百分点;扩展到 15 轮后达 42.1%。LIBERO-Pro(π0.5 主干):15 轮把位置扰动成功率从 25% 提到 84%、指令扰动从 1% 提到 76%,整体超 ASPIRE(code-as-policy)7 与 9 个百分点,且标准 LIBERO 从 97.1% 到 97.4% 不降。

消融链条完整:记忆设计上,只留生成程序 22.8%、只留训练程序 22.1%、双程序 27.6%——8.4 点的联合增益超过单侧增益之和(3.6+2.9),三个单记忆变体(原始轨迹检索 20.1%、蒸馏洞见 21.6%、技能库 21.0%)全部更差,证明关注点分离的必要性。Text2potential 上,稀疏奖励仅 22.3%、从任务描述生成势函数 24.6%、自由形式密集奖励 23.5%、完整方法 27.6% 且到 25% OOD 少用约 32% 更新步(21k vs 31k)。冻结策略仅用批评器选择动作块为 21.4%,说明学习到的价值必须反过来更新策略而非只做测试时选择。记忆跨主干迁移:用 π0.5 收集的记忆把 OpenVLA-OFT 从 3.8% 提到 21.1%,无需再生成环境,双向迁移都距完整框架两分以内——积累的难度模式与程序可以在主干之间搬运。生成质量指标:验证通过率 88.9%(均匀采样 71.3%),靶向精度 24.6%→66.7%,覆盖熵 3.18 vs 3.42 bits 基本不牺牲多样性。逐轮曲线上,从 5 轮扩展到 15 轮 OOD 从 27.6% 升到 42.1%,而无记忆变体出现两次成功率的临时回撤——记忆让进步单调。成本 7.4M LLM tokens + 66 GPU 小时 / 千环境,自适应调度再省约 11%。

5.3 UCoE:配对偏好与逐项拆解

主指标:开放式基准上对同演员匹配的直接生成做平局调整配对偏好(50% 为平价,Qwen3.5-397B-A17B 双序盲判,平局记半分)。基准:Arena-Hard(500 任务)、WritingPrompts(1,024)、WildBench(1,024)、WritingBench(500)、MultiChallenge(128)、RefineBench(278)六个开放式 + IFBench(150)、Hard-MATH(382)、BigCodeBench-Hard(148)三个可验证基准。评分是 prequential 的:每个回复都产自此前任务遗留的状态,任务本身在其之后才进入状态——评测流与训练流严格分离。

Qwen3-8B 上 UCoE 六基准平均 59.00%(+9.00),Qwen3.8-27B 上 57.19%(+7.19),12 个设置全部是所有反馈方法中最高;每基准最佳 baseline 平均仅 49.26%/51.60%,8B WildBench 上无任何 baseline 超过平价。95% 自助区间显示 12 个设置中 11 个区间整体高于平价。可验证任务均值 36.06%→38.48%(IFBench +4.67、Hard-MATH +2.62、代码 Pass@1 持平——是唯一不损害代码性能的反馈方法,其余方法全降到直接生成之下)。

消融归因:去掉当前任务修复(只更新 harness)掉到 50.80%,是最大贡献项;随机初始验证器 56.70%、冻结验证器 56.60%、关闭记忆更新 56.70%——四个组件各有贡献,验证器选择/进化/记忆的增益量级相近。机制诊断进一步验证行为符合设计:修复目标分布随基准变化(Arena-Hard 78.9% 指向正确性,WritingBench 42.5% 指向需求,RefineBench 36.5% 指向连贯,WritingPrompts 53.0% 指向情感);两次验证器更新在冻结响应对上的选择增益分别 +10.16 与 +4.69 点,说明对比集增益迁移到自然响应对;360 个 Arena-Hard 提议重打分显示更新后的验证器选中的 94 个提议里外部判断偏好 73 个、仅 7 个偏好草稿;自然修订审计(独立 Critic-7B)显示被接受修订的 Critic 偏好 70.89% vs 被拒绝的 51.46%,差距 19.43 点;639 次程序检索中 76 次间隔至少十个任务后复用,复用任务的修订 54 胜 5 负 11 平——存进状态的经验在很久之后仍被取出且大多有用。迁移性:GPT-5.4 / GPT-5.4-mini / Qwen3-14B 演员上优势保持(GPT-5.4 Arena-Hard 59.10%),Codex 智能体 harness + SpreadsheetBench-2 上 22.7% vs 直接生成 17.3%,增益来自金融模型与调试任务。成本 $0.0142/任务,比简单 baseline 贵 2.2–2.8 倍,大头在验证器模型;超参敏感性检验显示边际、候选数、温度在合理范围内变化均不影响结论。

值得单独一提的是两处统计设计。其一,Qwen3-14B 上的一次对照 fork:两条运行共享全部响应、验证器与记忆直到 task 256,之后一条采纳候选验证器、另一条保持现状,剩余 244 个数学任务上采纳版偏好 54.10%(37 胜 17 负 190 平)——单次验证器更新的因果效应被干净地隔离出来。其二,UCoE 对开放式评测的固有难题(不同基准的原生分数不可比)选择配对偏好做主指标、原生指标做佐证,且原生指标上 UCoE 也全面领先(Arena-Hard 风格调整分 8B 上 7.0→10.2、27B 上 51.6→60.9),避免了「只挑对自己有利的尺子」的质疑。

六、效果优势的根源解释

6.1 根源机制与证据链

因果链一(Data World):生成端锚定 → 评分项完备性 → 训练信号可靠性。探索式合成把监督绑在策展模型能从文件里发现什么——外卖销量下滑的例子里,专家可能归因促销过期而漏掉营业时长缩短,智能体发现后者却因评分表未列而不得分。Data World 的写手在生成前就看到机制与目标现象,论文附录给出理想化不等式 |S∩R*_DW| ≥ |S∩R*_obs|(同等预算下带生成记录的评分覆盖不少于仅看文件)。机制变化:评分表从抽样变成枚举已知目标;这缓解了监督盲区瓶颈,体现在 held-out 世界 +7.06 与 DataMind 对照(既有基准涨而机制接地任务不涨)上。论文实验已支持的部分:gap 与训练增益本身;阅读者推测的部分:不等式假设理想写手会利用额外信息,实际 LLM 写手未必,论文自己也承认这是理想化分析。

因果链二(CoDA):因子化诊断 × 对照验证 → 因果归因可靠性 → 生成预算效率。标量反馈(成功率)是归因盲的:它知道难不知道为何难,预算只能按难度撒。CoDA 的诊断定位到单因子单阶段,对照批次实验排除伪归因(18.2% 驳回率),生成因此可以靶向。机制变化:预算从按难度分布变成按可学习性(硬度×学习进度)分配;体现在 27.6% vs 18.1% 与靶向精度 66.7% vs 24.6% 的差距上。势函数塑形的加速(少 32% 更新步)则直接建立在 Ng-Harada-Russell 1999 的策略不变性定理上——这是三篇中唯一有外部经典理论背书的机制。超加性记忆增益(8.4 > 3.6+2.9)的机制解释(生成与训练程序互相供给对方所需的状态)目前属合理推测,论文未单独验证。

因果链三(UCoE):最弱族选择 → 盲区上界控制 → 选择增益下界。均值排名让验证器在容易族上的强势掩盖盲区;driving capacity 的 maximin 结构(定理 1:最大化最弱族等价于最大化任意混合下的最坏选择成功率)从数学上堵死这条逃逸路径。配对分解(命题 2:期望提升 = q/2 × ΔJ_mix)进一步说明演员供给机会 q、选择器供给利用能力——UCoE 改的是后者且不依赖 q。证据:12/12 设置胜出、验证器更新的冻结对增益外溢、MultiChallenge(多轮,对比族覆盖弱)恰是唯一接近平价的场景,反证对比族代表性的边界。

把三条因果链摆在一起还能看到一个递进关系:DW 解决的是「反馈存不存在」(从无到有),CoDA 解决的是「反馈有没有用」(从有到对症),UCoE 解决的是「反馈还准不准」(从对症到保鲜)。三个层面的问题在各自的系统里独立出现,但机制上同构——都需要一个独立于被改进对象的锚(生成记录/对照批次/对比集),也都依赖该锚对真实需求分布的代表性。

6.2 相关工作检索与对照

研究(可核验链接)相似尝试相关结论与本组差异对根源解释的影响
POET(arXiv:1901.01753)环境与智能体共同进化,不断生成更复杂环境环境进化能持续供给学习信号参数化 2D 课程,无语言诊断支持:环境侧闭环有效(CoDA)
Ng-Harada-Russell 1999(ICML)势函数塑形保持最优策略不变的密集化经典 RL 设定,非语言编译强支持:CoDA 加速的理论根基
Rubrics as Rewards(arXiv:2507.17746)评分表做 RL 奖励结构化准则扩展 RL 到开放任务评分表固定,锚定人工支持 DW/UCoE 的准则化方向,反衬其进化缺口
Red Queen Gödel Machine(arXiv:2606.26294)智能体与评价者共同进化固定评价者会过时依赖参数训练支持 UCoE 验证器进化动机;限定:UCoE 证明免训练也行
Contrast Sets(Gardner 等,EMNLP Findings 2020)人为扰动测决策边界局部对比暴露真实能力人工标注,仅评测方法迁移:UCoE 把它变成自动选择信号
Synthea(JAMIA 2018)机制模拟合成病历机制先行可行且无隐私风险医疗单域,无分析目标审计支持 DW 机制优先;DW 扩展到可恢复性审计
Weaver(arXiv:2506.18203)弱验证器集成缩小生成-验证差距验证比生成容易的差距可利用集成为主,无进化补充:验证器侧存在可利用的结构性差距
Self-Instruct(arXiv:2212.10560)自生成指令微调合成数据可自举无验证闭环反向参照:无审计自举有污染风险,DW 用世界不相交规避

6.3 综合判断与未决问题

多项研究共同支持的机制:(1) 外围系统进化优于固定(POET→CoDA、RQGM→UCoE 两条独立线);(2) 势函数形式保策略不变(25 年经典 + CoDA 实测少 32% 步数);(3) 结构化准则优于整体打分(RaR 线与 UCoE/DW 一致)。仍属推测的机制:DW 的评分覆盖不等式依赖理想写手假设;CoDA 双程序超加性的具体机制;UCoE 对比族对自然修订的代表性(论文自己审计了 70.89% vs 51.46%,但 MultiChallenge 弱点提示边界)。失效条件:合成任务分布偏离真实用户请求(DW 承认);sim-to-real 差距(CoDA 未验证实体机器人);验证器与被验证者同源时的自我强化风险(UCoE 的失败修复案例:错误诊断让演员删掉正确推导,验证器反而打更高分——这正是作者保留对照测试与有界更新的理由)。UCoE 成本 2.2–2.8 倍于简单方法,重复语义打分是主要开销,工程上尚未解决。

把三篇的失效条件并置还能看到一个更深的共性:三者的进化都依赖「对比测试能代表真实分布」这个未验证假设。DW 的审计检查的是指定关系可复算,不代表真实分析师会遇到同分布的模糊性;CoDA 的对照批次检验的是单因子归因,不覆盖因子交互的失败;UCoE 的对比族是局部编辑,不覆盖交互错误与未列性质(作者在限制一节如实列出)。共同进化的下一阶段竞争点,很可能就在对比测试分布与真实需求分布的对齐上。

七、必要知识反推

7.1 知识分层清单

假设一个零知识的人要做出这三篇工作,最少需要什么?

领域知识层:数据智能体的工作形态(文件+代码+多步分析)与真实数据缺陷的类型学(DW);机器人操作的学习范式(VLA 策略、动作块、行为克隆与 RL 的接口)与仿真 SDK 的能力边界(CoDA);LLM as a Judge 的偏好评测协议、harness/prompt 状态的工程含义(UCoE)。不理解这些就无法定义什么是有效的环境或反馈。方法论知识层:因果图/DAG 与拓扑分层生成(DW 的骨架与逐层生成直接建立在图算法上);强化学习的奖励塑形理论(Ng 1999)、课程学习与学习进度度量、AWR 与块级价值学习(CoDA);分布鲁棒优化的 maximin 结构、配对选择分解与 Hoeffding 界(UCoE 的定理 1-4 全部是这套工具)。三篇共同的还有:程序合成与可执行验证器、LLM 智能体系统的记忆组织(情景-语义-程序分层)。

工程知识层:多智能体会话的工件隔离与只读约定(DW);仿真验证检查(无碰撞放置、静态稳定、度量合理)与控制批次实验设计(CoDA);受限表达式求值器、静态校验、缓存键设计(UCoE 的验证器执行器代码);大规模 RL 训练栈(GSPO/slime/Megatron/SGLang)与配对统计检验(MDE、McNemar、Holm 校正)。还有一类常被低估的知识:成本工程——DW 用基模型自己当 rubric 裁判省算奖成本,CoDA 的自适应调度省 11% 开销,UCoE 把 verifier 打分做成缓存友好的分块调用;三篇都表明这类系统落地与否很大程度取决于每任务/每环境的边际成本控制。

7.2 知识融合的关键节点

知识融合的关键节点:(1) DW 把因果图的语义从解释工具翻转为生成工具——机制不是用来分析数据而是用来造数据;(2) CoDA 把失败诊断约束在与场景因子同构的空间 (δ,p) 上,让批评语言和引擎操作共享一套坐标系——没有这个对齐,闭环根本无法闭合;(3) UCoE 把评测界的对比集思想搬运到选择问题,并识别出 maximin 结构使得选择可以带最坏情况保证。三个节点都是跨领域表示的对齐,而非单点算法创新。

换个角度评估知识密度:DW 需要的最多——因果推断、数据库工程、RL 训练、基准策展、人工标注管理一样不缺,这也是其多机构合作的结构原因;CoDA 的知识跨度最大——从 VLA 模型微调到 LLM 编程智能体,两端的知识通常不在同一个实验室;UCoE 的知识最「数学」——四个命题两个定理把启发式设计变成有保证的选择程序,附录还给出全部证明。三种知识形态提示共同进化研究的入门路径不止一条:可以从系统工程切入(DW 路线)、从具身智能切入(CoDA 路线)、也可以从理论切入(UCoE 路线)。

八、论文中可以提取的通用性灵感

九条灵感中,前六条主要来自三篇论文各自的机制设计,后三条来自合读时才可见的横向对照。

灵感一:先造世界,再造假象。核心思想:可验证性的最可靠来源是生成过程而非结果比对。论文证据:DW 的评分表锚定生成记录,held-out +7.06 且 DataMind 对照显示结果端锚定不迁移。推广场景:教育测评(先设计知识结构再出题,答案自动可查)、合规审计(用规则引擎生成交易再审计)、合成测试数据生成、评测集防污染构造。

灵感二:闭环信号要度量进步潜力而非当前水平。核心思想:按现状分配资源会把预算浪费在已掌握或不可学的目标上。论文证据:CoDA 用学习进度区分硬而学不动与快学懂的模式,27.6% vs 成功率引导的 18.1%。推广场景:个性化学习路径规划(最近发展区理论的算法化)、bug 修复优先级排序(按可修性而非严重度)、科研选题、康复训练强度调节。

灵感三:归因必须落在可控坐标上才有价值。核心思想:诊断若不能映射到可执行的干预变量,再准确也无法闭环。论文证据:CoDA 强制诊断取值于 {TASK,SPATIAL,ATTRIBUTE,EXECUTION}×五阶段,引擎可精确重采单因子;对照批次驳回 18.2% 伪归因。推广场景:事后分析(postmortem)模板设计、医疗诊断与治疗手段对齐、UI 可用性反馈、绩效反馈体系。

灵感四:挑选裁判时看最短板不看平均分。核心思想:评估者的均值会掩盖其在特定失败模式上的盲区,关键决策应最大化最坏情况表现。论文证据:UCoE 的 driving capacity 选择 + 定理 1 的 maximin 等价性;12/12 设置胜出。推广场景:供应商/候选人评估、模型选择(弱项加权)、安全审查流程、多专家意见聚合。

灵感五:进化要有对照测试与回退容差。核心思想:任何自适应系统都需要在其变更生效前经过与现状的对照检验,且设定回退容忍线。论文证据:UCoE 三重更新准则(κ=0.10 族回退容差),task 256 拒绝了无增益候选;CoDA 对照批次;DW 独立审计。推广场景:A/B 上线流程、宪法/法规修订、个人习惯改变实验、组织流程变更管理。

灵感六:表示对齐是跨系统协作的前提。核心思想:两个协同进化的系统必须共享一套中介表示,否则闭环断裂。论文证据:CoDA 的 (τ,σ,α) 因子化同时服务批评、引擎与程序适用性判断;DW 的世界契约约束所有生成阶段。推广场景:跨部门协作的数据契约、微服务间 schema 演化、人机协作的共享心智模型、标准作业程序(SOP)设计。

灵感七:经验的可迁移性取决于抽象层级的选择。核心思想:按符号角色而非具体实例存储经验,才能跨场景复用。论文证据:CoDA 的生成程序按 target/obstacle/support 角色引用对象,跨任务族迁移保留 60.3% 学习进度(从零学仅 35.8%),跨策略主干迁移 18.9 点;UCoE 的程序性经验剥离任务特定实体后才入状态,间隔十个任务仍可复用。推广场景:案例库知识管理(按角色而非当事人归档)、专家系统规则设计、跨项目复盘方法、教师备课的题型模板。

灵感八:反事实控制组是自动诊断的质量闸门。核心思想:判断一个归因是否为真,要看改变该因素与改变其他因素的效果差异。论文证据:CoDA 的对照批次驳回 18.2% 伪诊断、人工一致性 73.6%→82.4%;UCoE 的对比集本质上是同一原理在文本域的应用。推广场景:A/B 测试中的 A/A 测试、医疗诊断的鉴别诊断流程、根因分析(RCA)的双向验证、算法公平性审计。

灵感九:机会与能力的分解可以指导改进方向。核心思想:任何基于选择/筛选的改进都分解为「有多常遇到值得区分的对」(机会 q)与「区分得有多准」(能力 J_mix),二者需要不同的改进手段。论文证据:UCoE 命题 2 的数学分解 q/2×ΔJ_mix,及其实验中对两者分别的度量(修复接受率对应机会,对比集判别力对应能力)。推广场景:面试筛选流程优化(先看候选区分度还是考官辨别力)、质检体系设计、推荐系统(曝光多样性 vs 排序精度)、医学筛查(患病率 vs 检出率)。

加评(合读后记)

三篇论文放在一起读,最有趣的不是各自的数字,而是它们共同勾勒的路线图:模型本体的规模化红利正在被转移到模型周围的可进化基础设施上。Data World 进化环境供给,CoDA 进化数据引擎,UCoE 进化验证器——恰好覆盖训练信号的三个生产环节。三者都选择了程序化(可执行、可审计)而非参数化(可训练、黑箱)的进化载体,都用对照/审计机制控制进化方向的漂移,这不太可能是巧合:当进化对象本身是语言模型时,程序化表示是目前唯一能施加结构性约束的方式。

三篇的实验哲学也有共同气质:都严格区分了「指标好看」与「指标证明论点」。DW 用世界不相交切分排除答案复用、用 DataMind 对照证明外部基准提升的空洞;CoDA 用对照批次排除伪归因、用覆盖熵证明没有牺牲多样性换靶向;UCoE 用 12 个设置的全胜加配对区间、用自然修订审计证明对比集增益外溢。这种克制在同期竞速的领域里并不多见。

局限同样清晰:DW 的合成任务与真实请求分布的差距(作者自己承认人工策展只保证问题真实性、不保证分布代表性)、CoDA 的 sim-to-real 未验证(接触动力学敏感任务尤其存疑)、UCoE 的成本与自我强化风险(验证器与演员同用一个模型家族时的偏好同化),都是这条路线在走向实用前必须回答的问题。另一个值得追问的方向是三篇思路的正交组合:用 DW 的机制先行引擎产出环境,CoDA 式的学习进度调度决定生成哪些世界,UCoE 式的对比集进化验证器做裁判——一个完整的三层共同进化栈在技术上已经没有任何单点障碍。但作为同一周出现的三份独立证据,它们足以支撑一个判断:共同进化不再是开放性研究的异类玩法,而是智能体训练与自我改进的主流工程范式候选。