论文一链接:GraphForge: Training Working Agents with Graph-Anchored Workspace Synthesis,数据+模型开源 huggingface.co/collections/groundhogLLM/graphforge 论文二链接:When Users Change Their Minds: Measuring and Repairing Intent Drift in LLM Agents(原文仅提及 anonymized artifact,无公开代码链接) 发表时间:2026 年 9 月 机构:GraphForge = USTC(中国科学技术大学)+ 复旦大学 + 上海创新研究院 + 上海人工智能实验室;Intent Drift = HKUST(香港科技大学)+ CUHK(香港中文大学)+ 腾讯 LIGHTSPEED(深圳) 机构关系:GraphForge 是「高校 + 新型研发机构」合作(无传统企业),通讯作者 Qisheng Su、Feng Zhao 均在 USTC;Intent Drift 是典型的「高校学生 + 企业实习」模式——第一作者 Yanjie Zhang 在腾讯 LIGHTSPEED 实习期间完成本工作,通讯作者 Yushi Sun 属 LIGHTSPEED,两校承担学术研究 领域标签:cs.CL / cs.AI,Agent 训练数据合成、多轮评估与状态管理


为什么把这两篇放在一起读

「工作型 agent」(working agent)——那种需要读一堆文件、协调一堆工具、最后交出一份交付物(报表、摘要、代码、数据表)的持久数字助理——的可靠性问题,在 2026 年集中暴露在两个环节上:

  • 训练侧:agent 的 SFT 轨迹从哪来?模型生成的文件缺乏真实性与多样性,真实文件又往往没有任务级验证器——你根本不知道一条轨迹「做对了」没有。数据质量没有锚点。
  • 运行时侧:多轮交互里用户会改主意。改了三次需求之后,agent 的上下文里同时躺着三版意图,被推翻的那版往往还在暗中影响最终答案与工具调用。意图状态没有账本。

GraphForge 管第一件事:用「证据图锚定」把训练任务的验证落到实处——每条评分准则都锚定到真实文件上的具体证据节点,judge 沿锚点逐文件核对交付物。核心数字:Qwen3.6-27B 在 GDPVal-AA(OpenHands)上 Elo 从 1380.0 提到 1445.7(+65.7),超过 DeepSeek-V4-Pro(1531.5 之下、Kimi-K3 1615.5 之下但差距显著缩小——27B 模型逼进 35B 级前沿开源);SpreadsheetBench II 执行准确率从 10.3 翻倍到 24.0(+13.7)。

When Users Change Their Minds 管第二件事:把「意图漂移」(intent drift)定义成可测量的对象——8 个前沿模型在 hard 难度下 IDG(intent drift gap)全部为正,最高 0.448;修复器 STATEFORGE 用「状态折叠」把 mean score 从 0.367 提到 0.467,而且 9B 小 tracker 在统计上追平 122B。

两篇的共同哲学惊人地一致:把「不可观测的对错」变成「可锚定的证据或状态」——训练时把对错锚到文件证据图上,运行时把「现在什么仍然有效」维护成一份显式账本。一个在数据进场时把关,一个在推理进行时守门,合起来是工作型 agent 可靠性基建的上下游两环。下面按九部分展开。


一、论文背景:工作型 agent 的两道可靠性缺口

1.1 什么是工作型 agent

与「一问一答」的聊天模型不同,工作型 agent 的典型形态是:接到一个开放任务(「根据这三个部门的预算表,写一份下季度采购建议,附上对比图表」),需要在几十个真实文件(xlsx、csv、pdf、docx)里翻找证据、协调多种工具(代码执行、文件读写、表格操作),最后产出一个工件(deliverable)——不是一个答案,而是一份能被人审阅的交付物。

这个形态的评测代表是 OpenAI 的 GDPval(arXiv:2510.04374):覆盖 44 个职业、9 大 GDP 支柱行业、1,320 个任务,衡量模型在「有经济价值的真实工作任务」上的表现——法律简报、工程报告、财务分析这类真实交付物。训练侧对应的则是 Workspace-Bench、SpreadsheetBench(912 道真实场景表格操作题)及其后继 SpreadsheetBench 2(arXiv:2606.29955,321 个专家标注的工作流级任务)这类工作区基准。

1.2 缺口一(训练侧):真实性-可验证性两难

要训工作型 agent,就要有「工作区 + 任务 + 轨迹 + 对错判定」四件套。现有管线卡在一个两难上:

  • 模型生成文件(如 EnvCraft 路线,arXiv:2609.05576,为 Claw-like agent 合成可执行环境,20K 任务):可执行、可配状态检查脚本,但文件是模型编的——缺乏真实世界文件的脏乱、冗余与多样性,而且状态检查脚本读不了文档内容,只能查工作区元状态(文件存在性、格式),交付物「内容对不对」无从判断。
  • 真实文件(如 NexForge 路线,5.6K 任务):文件真实,但完全没有任务级验证器,轨迹好坏不可检查,且数据不开放。

一句话:要么真而不可验,要么可验而不真。而没有可靠的验证,SFT 语料的准入就是开盲盒——这直接封死了「用高质量轨迹训练工作型 agent」这条路。

1.3 缺口二(运行时侧):意图漂移

多轮交互中用户意图会发生 ADD/DELETE/REPLACE 三种编辑:先说「统计华东区」,后来改成「华南区」;先要求「按月聚合」,后来撤掉。问题在于——上下文不会自动清理。被取代的旧意图仍然躺在对话历史里,而且模型经常继续遵从它。

这不是幻觉问题、也不是纯记忆问题,而是一个此前没有被正式定义和测量的失败模式:论文称之为 intent drift——被取代的旧意图仍继续影响最终答案或工具动作。工业界的观察与之呼应:多个 agent 团队报告「指令在 20-30 轮后开始被忽略」「中间轮次的指令会被后续上下文淹没」,2026 年的行业统计甚至把多数企业 agent 故障归因于上下文漂移(此类为业界博客级证据,等级弱于同行评审,仅作背景)。但在本文之前,「意图漂移」没有受控测量:你不知道它有多普遍、多严重、是不是轮数本身的副作用。

1.4 为什么这两道缺口是一体的

可靠性 = 学到的东西是真的(训练侧)+ 现在遵循的意图是对的(运行时侧)。训练数据有污染,学出来的是错误技能;意图状态有污染,执行的是过期目标。两篇论文分别给这两个污染源装上了「显式锚定的清理机制」——这就是把它们放在一起读的价值。


二、论文定位和关联工作

2.1 训练数据合成谱系(GraphForge 的位置)

谱系一:合成环境 + 脚本验证。 EnvCraft(arXiv:2609.05576)为 agentic RL 自动合成可执行环境,配状态检查脚本;Agent-World(arXiv:2604.18292)用工具依赖图 + 可执行 Python 解合成可验证任务并控制难度,做自进化训练竞技场;EnvHarness(arXiv:2608.19880)把静态世界「唤醒」为环境且保留原验证器。这条线可验性强,但环境多为合成,验证多为状态检查。GraphForge 的区别:文件全部来自真实爬取,且验证是「读交付物内容」的 judge 而非状态脚本。

谱系二:真实文件、弱验证。 NexForge 用真实文件造了 5.6K 任务但无验证、不开放数据。GraphForge 的区别:补上任务级验证器并全量开源(HF collection groundhogLLM/graphforge)。

谱系三:rubric 打分与轨迹过滤。 rubric-based rewards 已被证明能降低小 judge 的方差、缓解 reward over-optimization(awesome-rubric-rewards 汇总、QuRL OpenReview 把网页挖掘的题目级 rubric 变成可验证奖励做 RL);工业侧 NVIDIA Nemotron-SFT-Agentic-v2 也采用「先打分再过滤」的轨迹准入。GraphForge 的区别:rubric 不再是自由文本清单,而是从证据图编译、每条准则带证据锚点 A_k 与验证程序 φ_k 的可执行规范。

谱系四:人工验证基准。 SWE-bench Verified(OpenAI 2024)证明人工校验能显著改善判分质量(500 例人工过滤子集)。GraphForge 用「锚定 judge」把这类人工校验自动化了。

2.2 多轮评估与上下文管理谱系(Intent Drift 的位置)

谱系一:对话状态跟踪(DST)。 任务型对话系统长期维护 belief state——Neural Belief Tracker(arXiv:1606.03777)起,DST 每轮估计用户目标。值得注意的是 Are LLMs All You Need for Task-Oriented Dialogue? 发现 LLM 做显式 belief tracking 反而不如专用小模型——这与本文「9B tracker 追平 122B」的发现相互印证。Intent Drift 的区别:不是「跟踪槽位填没填」,而是「意图被编辑后,过期项及其派生结论是否被清除」,且用源任务原生 grader 做可验证测量。

谱系二:上下文压缩(compaction)。 周期性把历史摘要成更短表示以维持有界上下文(如 Parallel Context Compaction,arXiv:2605.23296)。Intent Drift 的区别:压缩只回答「保留什么信息」,不回答「什么仍然有效」——摘要后的历史可能同时保留新旧两个值,还可能保留依赖过期意图的中间结论。论文把 Deep Agents(滚动摘要)与 OpenHarness(两段压缩)作为 baseline 直接对比。

谱系三:多轮/交互基准。 VitaBench(arXiv:2509.26490,美团,66 工具的真实生活服务交互任务)等多轮基准测量综合能力,但不含受控意图编辑。INTENTFLUX 的区别:把意图演化过程本身变成受控变量(编辑预算 b∈{1,3,5}),且保留源任务 grader 实现可验证评分。

2.3 定位对比表

维度之前的路线GraphForge / Intent Drift 的突破
训练文件来源模型生成(EnvCraft)或真实但黑盒(NexForge)真实爬取 + 隐藏角色分配(core/supporting/confuser/ambient)
任务级验证状态检查脚本(读不了内容)或没有证据图编译的锚定 rubric,judge 逐文件核对交付物
意向漂移测量无正式定义,混在「多轮性能下降」里IDG = CAR(clean) − CAR(drift),受控编辑序列 + 原生 grader
运行时修复历史压缩(摘要式,不区分过期与否)状态折叠:删过期意图项及其派生结论,活跃状态置于生成时最近位
修复器形态与大模型耦合免训练 harness;可 OPD 蒸馏到 2B tracker,可内化进 agent

定位结论:GraphForge 是「真实文件 + 锚定验证」两条路线的合流点,也是首个把工作型 agent 训练数据全管线(含 judge)开源的工作;Intent Drift 则为多轮可靠性补上了「意图编辑」这个被长期遗漏的测量维度,并给出可部署的修复器与蒸馏路径。


三、问题定义

3.1 共同的抽象:给「不可观测的对错」装锚

两篇论文面对的具体场景完全不同,但抽象结构同构:

  • GraphForge 的具体问题:一条 agent 轨迹「做对了任务」怎么判定?开放交付物没有单元测试。 抽象:把「任务做对了」分解为「每条评分准则都有文件证据支撑」——对错锚定到证据图节点上,验证变成沿锚点的逐文件核对。
  • Intent Drift 的具体问题:agent 的最终答案有没有被过期意图污染?上下文里新旧意图混在一起无法归因。 抽象:把「当前应遵循的意图」维护为显式集合(活跃状态),漂移 = 活跃状态与真实最终意图 G* 的偏差,修复 = 对话每轮后对集合做折叠(增删改 + 级联失效派生结论)。

类比深度学习:

深度学习概念GraphForge 对应STATEFORGE 对应
标注质量证据锚定 rubric 的判定可靠性tracker 折叠的准确率
数据清洗/准入Q>0.90 工件级准入删除过期意图项及派生结论
数据增强的多样性约束O*NET 种子 + 边际覆盖贪心ADD/DELETE/REPLACE 编辑预算 b
过拟合检测污染审计 + 未覆盖职业 win rateclean 端对照(0.778 基线)

3.2 GraphForge 的形式化

给定职业-任务种子空间(O*NET)与开放网络文件池,求一个合成管线,输出任务规范 C=(q, D, R+, R−)——查询 q、工作区 D、正/负向准则集——使得:(1) D 中文件真实且带隐藏角色 ρ(f)∈{core, supporting, confuser, ambient};(2) 每条正向准则 c_k=(d_k, r_k, z_k, w_k, A_k, φ_k)(描述、要求、来源、权重、证据锚点 A_k⊆V、验证程序 φ_k)可被 judge 独立执行;(3) 准入分数 Q_i(τ)>0.90 的轨迹才进 SFT 语料。约束:锚点只给 judge 不给被训 agent(防泄漏),任务陈述与 rubric 从同一证据图编译(保证可验证性而非事后拼凑)。

3.3 INTENTFLUX / STATEFORGE 的形式化

测量:意图态建模为原子目标集 G,经编辑序列(ADD/DELETE/REPLACE)演化到最终意图 G*;对每个被测 agent,CAR = 在 G* 下得满分的比率,IDG = CAR(clean) − CAR(drift)。两类陈旧信息:VARIANT(后被替换的合理变体值)与 DECOY(后被撤销的合理约束,仅当遵从它会改变 grader 判定时保留——保证错误可测量);难度由预算 b∈{1,3,5} 单调控制;结尾不重述最终意图(贴近真实交互)。

修复:求一个每轮运行的折叠算子 fold,把意图编辑折叠进显式活跃状态 S_t,删除被取代意图项及其派生结论(S_t 区分直接意图与派生结论两类条目以支持依赖失效),并将 S_t 插入缓存历史与当前输入之间。约束:免训练(harness 形态)、可蒸馏(OPD 小 tracker)、可内化(thinking distillation)。

精妙之处:两个形式化都把「质量」从全局不可分的判断,分解成了逐锚点/逐条目可执行的局部判断——这是后面一切自动化(judge、准入、折叠、蒸馏)得以成立的前提。


四、问题解法

4.1 GraphForge:五阶段合成管线

阶段一:O*NET 职业种子。 从 O*NET 职业库 + AI4Work DIGITAL 标注过滤,得到 246 职业 / 16 行业 / 891 种 DWA(详细工作活动)任务型 / 3,419 个职业-任务对。用边际覆盖贪心选择(增益 Δ(s|S)=Σ 1/(1+n_d(v)))挑种子,防止任务塌缩到少数高频职业——直觉是「已被覆盖 n 次的任务型再选一次的收益递减」。最终选中 466 个任务型、覆盖 15/16 行业、164/256 个行业×模式组合。

阶段二:真实文件工作区。 搜索 agent 为每个种子实例化公开案例并爬取真实文件。每个文件分配隐藏角色:core(解题必需)、supporting(辅助)、confuser(似是而非的干扰)、ambient(背景噪音)——干扰文件提供真实冗余,角色永不出示给被训 agent,只用于构造与验证。

阶段三:证据图与可验证 rubric。 在文件关系上建图 G=(V,E):节点记录文件/事实/角色,边记录跨文件依赖(比如「sheet2 的汇总引用 sheet1 的明细」)。从图上编译任务规范 C=(q, D, R+, R−),每条正向准则带证据锚点 A_k 与验证程序 φ_k。关键设计:执行与验证分离——锚点只给 judge,不泄漏解题步骤给被训 agent。

阶段四:执行条件化一步修订。 teacher 模型先跑一遍测试任务可执行性;revision agent 对照原始文件修订任务/rubric。若任务陈述未变则复用初始轨迹——81.6% 的 rollout 得以复用,控制了修订成本。

阶段五:工件级准入。 确定性检查(文件名/格式/公式)+ 证据锚定 judge 打分 Q_i(τ)(正向加权达标比例减负向惩罚),阈值 Q>0.90 准入,另剔除退化工具行为(如无意义循环调用)。最终产出 2,169 条 SFT 轨迹(来自 3,638 个实例化任务,准入率 59.6%),平均 50.0 步 / 162k tokens。全管线(含 judge)由 GLM-5.2 驱动。

4.2 INTENTFLUX 基准 + STATEFORGE 修复器

INTENTFLUX(测量):把六类可验证源任务(代码/数学/SQL/数据到文本/摘要/工具调用)转成受控多轮对话——意图态 G 经 ADD/DELETE/REPLACE 序列演化到 G*,保留源任务原生 grader 评分(不引入新的主观判分)。VARIANT 与 DECOY 两类陈旧信息的设计保证「错误可测量」:DECOY 只在「遵从它会改变 grader 判定」时保留。难度由 b∈{1,3,5} 控制(easy/medium/hard),对话结尾不重述最终意图。评估设定:CAR(当前真意下满分率)、IDG、mean score;DeepSeek-V4-Flash 全程作用户模拟器与 rubric judge。

STATEFORGE(修复):免训练 harness,核心是状态折叠(state folding)——每轮后由 tracker 把意图编辑折叠进显式「活跃状态」:删除被取代意图项及其派生结论(状态区分直接意图与派生结论,支持依赖级联失效——这是与摘要压缩的本质区别)。活跃状态插入缓存历史与当前输入之间:历史可缓存(省推理成本),活跃信息在生成时刻离当前 token 最近(利用 recency 偏置而非对抗它)。配格式 tracker 与输出约定 gate(防格式噪声)。

两条迁移路径:(1) OPD(on-policy distillation) 训小 tracker——学生自采样、教师对前缀打分(与 Thinking Machines 的 on-policy distillation 同思路);(2) thinking distillation 把状态折叠行为内化进独立 agent 的思考过程。

4.3 两篇方法的互补全景

GraphForgeINTENTFLUX + STATEFORGE
解决环节训练数据进场把关运行时意图守门
锚定对象文件证据图节点 A_k活跃状态条目(意图 + 派生结论)
验证机制judge 沿锚点逐文件核对 + Q>0.90 准入源任务原生 grader + IDG
防污染手段锚点不给 agent、污染审计、角色隐藏删过期项及派生结论、结尾不重述
落地产物2,169 条开源 SFT 轨迹 + 模型基准 + 免训练 harness + 2B/9B tracker 蒸馏路径

五、评估指标与实验证据

5.1 GraphForge:跨 scaffold、跨基座的迁移

主实验在三个工作型基准 × 三种 scaffold(OpenHands / Codex / Claude Code)上对比 SFT 前后:

Benchmark指标Qwen3.6-27B SFT基座提升
GDPVal-AA (OpenHands)Elo(锚定 GLM-5.3=1667)1445.71380.0+65.7
GDPVal-AA (Codex)Elo1427.41364.0+63.4
Workspace-Bench-Lite (Claude Code)micro 分63.756.0+7.7
Workspace-Bench-Lite (Codex)micro 分65.261.4+3.8
SpreadsheetBench II (Claude Code)执行准确率24.010.3+13.7
SpreadsheetBench II (Codex)执行准确率24.615.6+9.0

35B-A3B 变体:GDPVal +101.7(OpenHands,1260.6→1362.3)/ +101.4(Codex);SBII +16.5(2.8→19.3)。RFT(锚定选优)再叠加:GDPVal 再 +7.2/+11.0 Elo,WSB-Lite +4.0/+4.0,SBII +1.0/+0.9。

与前沿模型对照(GDPVal Elo,OpenHands):Claude Opus 5 = 1774.1、Qwen3.8-Max = 1719.0、GPT-5.6-sol = 1687.1、GLM-5.3 = 1667.0、Kimi-K3 = 1615.5、DeepSeek-V4-Pro = 1531.5。27B SFT(1445.7)超过 DeepSeek-V4-Pro、逼进 Kimi-K3;与开源同行 NexForge 的 Nex-N2-Mini-35B(1288.8)相比,35B SFT(1362.3)反超 +73.5。

judge 敏感性(锚定是否真的让 judge 读证据):删除被引用的 worksheet,对应准则 ΔQ=−0.377;非目标准则均值 |ΔQ|=0.016——judge 确实沿锚点读文件,而不是凭印象打分。

RFT 消融(同 462 query/候选池/预算):anchored 选择 vs random-of-4 选择,后者在 GDPVal 掉 −9.0/−9.5、SBII 掉 −0.3/−3.1;unanchored judge 在 GDPVal 点估计更高(+34.1/+25.3)但统计不显著,在 SBII 上为负(−1.8/0.0)。

5.2 Intent Drift:测量 → 修复 → 蒸馏的三级证据

测量(漂移存在且严重):

  • 校准池 627 任务(gemini-3.5-flash 被测):mean score easy 0.476 → medium 0.419 → hard 0.384(相对降 19.3%);CAR 0.381→0.327→0.298——难度随预算 b 单调,说明测量按设计工作。
  • 8 模型 GENERAL-TEST(125 任务)hard IDG 全为正:Qwen3.6 Plus 最大 0.448 [0.360, 0.536],Claude Opus 4.7 为 0.408,GLM 5.2 为 0.344;hard CAR 最低降到 0.184(Opus 4.7)/ 0.192(Qwen3.6 Plus)。前沿模型无一幸免。
  • 轮数对照(Qwen3.5-122B):single-turn 0.778,等长无漂移控制 0.734,drift 0.469——0.265 的差距证明轮数本身解释不了损失,漂移是独立失败源。
  • 交互迁移 VitaBench(100 任务):不重述最终意图使 partial-credit 降 0.103 [+0.026, +0.180]——真实交互场景同样受害。

修复(STATEFORGE 有效):GENERAL-TEST 上 bare multi-turn 0.367 → 0.467(+0.100,95% CI [0.030, 0.171];CAR 0.264→0.368)。baseline 对照(同 Qwen3.5-122B、冻结 medium 难度轨迹):Deep Agents(滚动摘要)0.354、OpenHarness(两段压缩)0.392——两种压缩 harness 都不高于 bare 0.367,全部低于 STATEFORGE(分别 +0.113 / +0.075)。GT-oracle 最终态 0.549,仍低于 clean 0.778(残差 0.229)。

蒸馏(可部署):OPD 一轮把 2B tracker 从 0.266 提到 0.445(同协议下 122B tracker 为 0.428——2B 反超);9B tracker 与 122B 统计不可分(Δ=−0.029 [−0.101, +0.042]);thinking distillation 把独立 35B agent 从 0.296 提到 0.461(clean 端由 0.745 微降至 0.718)。

组件消融(统一重跑协议,n=125,完整 STATEFORGE 该协议下 0.428):去 gate −0.035 [−0.101, +0.030]、通用 recap −0.025、中性 recap +0.013——差异 CI 均含零,即显式状态表示优于「组件匹配的 recap」的优势在当前样本量下未确立(论文如实报告);oracle 最终态 +0.123 [+0.044, +0.202] 显著。

5.3 实验设计为什么有证明力

  • GraphForge 的杀手锏是「审计三角」:(1) judge 敏感性实验(删文件 ΔQ=−0.377 vs 非目标准则 0.016)证明验证器真的在读证据;(2) 污染审计——39,201 个训练文件与 260 个 GDPVal 文件零重叠;(3) 泛化检验——未覆盖职业的 win rate 0.739 [0.671, 0.803] 不低于已覆盖职业的 0.692。三者合起来排除「judge 瞎打分」与「模型背 benchmark」两种替代解释。
  • Intent Drift 的杀手锏是「对照链」:等长无漂移控制(0.734)把「轮数多」排除;DECOY 的构造性定义(只在改变 grader 判定时保留)把「错误测不到」排除;oracle(0.549)把修复器收益与状态估计误差分解开。压缩 baseline 全部低于 bare 这一点尤其关键——它证明「多做事」不等于「做对事」,摘要式压缩可能反而放大漂移。

六、效果优势的根源解释

6.1 GraphForge:三条因果链

因果链一:锚定验证 → judge 真读证据 → 准入可靠。 方法差异:任务陈述与 rubric 均从真实文件上的证据图编译,每条准则锚定到验证所需文件。机制变化:judge 的核对路径从「自由文本印象分」变成「沿锚点逐文件核对」。证据:删被引文件 ΔQ=−0.377、非目标准则不动(0.016);对比 EnvCraft 的状态脚本(读不了文档内容)与 NexForge 的无验证。指标映射:59.6% 准入率下 2,169 条高置信轨迹直接抬升 SFT。[论文实验已支持]

因果链二:验证可靠 → 数据质量 → 下游收益。 证据:RFT 消融中 random-of-4 选择一致最差(GDPVal −9.0/−9.5),锚定选择在两个 benchmark 上最优——锚定 rubric 提供了有效的轨迹选择信号,而选择信号的质量上限就是验证器的质量。[论文实验已支持]

因果链三:多样性控制 → 泛化而非记忆。 O*NET 种子 + 边际覆盖贪心(466 任务型、15/16 行业、164/256 组合)防止任务塌缩 → 训练收益跨 scaffold(OpenHands/Codex/Claude Code)、跨基座(27B/35B)迁移;未覆盖职业 win rate 0.739 ≥ 已覆盖 0.692,说明学到的是可迁移工作技能。[论文实验已支持;「边际覆盖贪心是必要组件」的反事实消融原文未单列,属阅读者推测——多样性收益的具体归因仍待验证]

诚实披露的反证:unanchored judge 在 GDPVal 上点估计更高(+34.1/+25.3)但不显著、SBII 为负——锚定不是在所有维度都占优;作者如实报告。可能的解释:锚点约束了 judge 的视野,在自由度大的任务上会丢失部分整体判断信号(此为阅读者推测)。

6.2 Intent Drift:三条因果链

因果链一:状态折叠删除两个污染通道 → 超越压缩。 方法差异:压缩只回答「保留什么信息」;折叠额外回答「什么仍然有效」。机制变化:删除过期意图项时级联失效其派生结论——这堵住了压缩堵不住的第二个通道(依赖过期意图的中间结论在摘要里往往「局部看似一致」地存活)。证据:Deep Agents 0.354 / OpenHarness 0.392 均 ≤ bare 0.367,STATEFORGE 0.467。[论文实验已支持;「派生结论级联失效是压缩 baseline 失败的主因」这一归因基于机制分析,论文未对压缩后的历史做内容级剖析,属阅读者从设计原理推出的推测]

因果链二:活跃状态置最近位 + gate → 生成时对齐当前意图。 机制:历史可缓存、活跃状态在生成时刻离当前 token 最近——利用而非对抗 recency;格式 gate 消除状态注入的格式噪声。证据:0.367→0.467 且 CAR 0.264→0.368。[论文实验已支持;但组件匹配消融 CI 含零,说明「显式状态 vs 匹配 recap」的优势在 n=125 下未确立——置位效应与内容效应的贡献尚未分离,此为论文自认的开放问题]

因果链三:角色分解 → 小模型干专活。 状态估计与任务求解解耦 → 9B tracker 匹敌 122B(Δ=−0.029,CI 含零);OPD 用自 rollout 纠错让 2B 达 0.445 反超 122B 的 0.428。状态维护不需要基座级模型,正如 DST 传统中专用小 tracker 常胜过大模型。[论文实验已支持]

残差的启示:oracle 最终态 0.549 仍低于 clean 0.778(差 0.229)——即使状态完美,保留完整对话历史本身仍有残余干扰。这提示漂移修复存在第二战场(历史本身即干扰源),STATEFORGE 未解决。[论文实验已支持]

6.3 外部检索与对照

研究相似尝试相关结论与本文的差异与适用边界对根源解释的影响
EnvCraft(arXiv:2609.05576)合成环境+脚本验证(20K 任务)可执行环境可训 agent文件不真实、脚本读不了内容对照组:GraphForge 锚定 judge 的必要性
Agent-World(arXiv:2604.18292)工具依赖图合成可验证任务图结构 + 可验证任务有效面向工具调用而非文件工作区支持「图锚定」路线的普适性
QuRL(OpenReview)+ rubric rewards 汇总(GitHub)rubric 变可验证奖励rubric 降低 judge 方差、缓解 reward over-optimizationRL 奖励场景,非 SFT 准入支持「结构化 rubric 优于自由打分」
Nemotron-SFT-Agentic-v2(HF)轨迹打分过滤后训练工业界同采用「先验准入」无证据锚定机制补充:准入过滤是共性实践,锚定是增量
SWE-bench Verified(OpenAI)及污染研究(arXiv:2512.10218)人工校验提升判分质量基准污染会虚高性能人工 vs 自动锚定支持 GraphForge 污染审计的必要性
Neural Belief Tracker(arXiv:1606.03777)、LLM-DST 研究(arXiv:2304.06556)显式状态跟踪LLM 做显式 DST 不如专用小模型槽位填充场景支持「专用小 tracker」因果链三
Parallel Context Compaction(arXiv:2605.23296)历史摘要压缩维持有界上下文不区分过期信息对照组:压缩 baseline 失败的机制佐证
业界 agent 指令遗忘观察(多来源博客,2026)—指令在 20-30 轮后被忽略非同行评审、无受控测量弱级证据,方向一致

6.4 综合判断与未决问题

多研究共同支持的机制:(1) 结构化/锚定的 rubric 优于自由打分(GraphForge + QuRL + rubric rewards 系列);(2) 专用小模型做状态跟踪不逊于大模型(Intent Drift 的 9B/122B 对照 + DST 传统);(3) 准入过滤是数据质量的有效手段(GraphForge + Nemotron 实践)。

仍属推测的机制:(1) 边际覆盖贪心对多样性的具体贡献量;(2) 锚定 judge 在高自由度任务上的视野损失;(3) 派生结论级联失效相对「仅删意图项」的增量贡献。

优势成立条件:GraphForge 需要任务可分解为文件证据支撑的准则(开放交付物场景最优);STATEFORGE 需要意图编辑可被每轮折叠识别(高噪声真实对话中 tracker 的鲁棒性未在本文充分检验)。

可能失效条件:交付物价值高度依赖风格/品味(锚点难定义)时锚定 judge 退化;用户意图含混、从不显式编辑(无明确编辑事件可折叠)时折叠算子无从发力。


七、必要知识反推

假设一个完全空白的研究者要独立完成这两篇工作,最少需要知道什么?

7.1 领域知识层

  • 工作型 agent 的任务形态与评测生态:GDPval(44 职业/1,320 任务)、Workspace-Bench、SpreadsheetBench 系列的指标与短板——不知道「什么算做好了」就无法定义验证器。
  • O*NET 职业分类体系与 DWA 层级:246 职业/891 DWA 的种子空间从这里来;不理解这个taxonomy 就无法做边际覆盖选择。
  • 多轮交互的失败模式分类:能区分「遗忘」「幻觉」「指令冲突」与「意图漂移」——不区分就无法把 intent drift 孤立成受控变量。
  • 任务型对话的 belief state 传统:知道 DST 的存在才会想到「显式状态 + 派生结论失效」的设计。

7.2 方法论知识层

  • 集合覆盖 / 边际增益优化:Δ(s|S)=Σ 1/(1+n_d(v)) 的贪心选择——多样性不是自然涌现的,要显式优化。
  • rubric-based 评估与 LLM-as-judge 的已知缺陷(方差、reward hacking):才会想到把 rubric 锚到证据图节点上。
  • 蒸馏方法谱系:OPD(学生自采样、教师打前缀分)与 thinking distillation 的区别——两条迁移路径的选择依据。
  • 受控实验设计:等长对照、oracle 上界、组件匹配消融、配对检验(CI 报告)——两篇论文的证据链都靠这些方法论撑住。

7.3 工程知识层

  • 大规模文件爬取与角色标注管线:真实文件工作区的工程现实(去重、隐藏角色分配)。
  • agent scaffold 生态:OpenHands / Codex / Claude Code 的接入差异——跨 scaffold 迁移实验的前提。
  • judge 的 prompt 工程与敏感性测试:删文件探针(ΔQ 实验)是验证 judge 行为的标准手段。
  • 推理成本工程:缓存历史 + 活跃状态置最近的插入位置设计,兼顾 KV cache 命中与 recency。

7.4 知识融合的关键节点

  • 节点一(GraphForge):「证据图 ←→ rubric 编译」的对接——把图上节点当作评分准则的锚点,同时把锚点对 agent 隐藏。这是图方法 × 评估方法 × 信息不对称设计的化学反应。
  • 节点二(Intent Drift):「DST 传统 × 可验证 grader」的对接——老的想法(显式状态)配上新的测量手段(源任务原生 grader + 受控编辑),才让一个模糊现象变成精确科学。
  • 节点三(两篇共有):「准入/折叠都是清理算子」的抽象——数据进场清理与状态在线清理同构,这个视角本身是可迁移的知识。

八、论文中可以提取的通用性灵感

灵感一:锚点分离原则——验证信息与解题信息不对称分布。 核心思想:给验证者的信息(锚点、角色)与给执行者的信息刻意不同,验证才可靠且不泄漏。 论文证据:锚点 A_k 只给 judge;文件角色 ρ(f) 永不出示给被训 agent;删文件探针证明 judge 真在读锚点(ΔQ=−0.377)。 推广场景:考试出题(评分细则与题面分离)、代码评审(评审清单对提交者部分隐藏)、审计(抽样规则保密)、红队测试(攻击面清单不对称)。

灵感二:显式状态 > 隐式历史——「什么仍然有效」是一等公民。 核心思想:凡是有编辑历史的地方(对话、文档、代码、法规),都应维护一份「当前有效集」,且删除条目时要级联失效其派生结论。 论文证据:压缩 baseline(0.354/0.392)不如 bare(0.367),状态折叠达 0.467;oracle 残差 0.229 进一步证明历史本身就是干扰源。 推广场景:协作文档(评论解决后的级联失效)、长事务系统(补偿事务)、法律合规(法规修订后的引用失效)、配置管理(依赖驱逐)。

灵感三:真实性与可验证性可以兼得——用结构编译验证,而非用人工补验证。 核心思想:从素材自身的结构(文件关系图)编译出验证程序,避免「真实素材没验证器、有验证器的素材不真实」的两难。 论文证据:真实文件 + 证据图 → 锚定 rubric → Q>0.90 准入 → 27B 模型 GDPVal +65.7 Elo。 推广场景:教育(从真实文献编译评分点)、数据标注(从数据血缘编译质检规则)、医疗病历质控、财务审计抽样。

灵感四:多样性要显式优化,边际覆盖贪心是低成本手段。 核心思想:合成数据的分布不会自然均匀,需要带递减收益函数的贪心选择防止塌缩。 论文证据:Δ(s|S)=Σ 1/(1+n_d(v)) 选出 466 任务型/15 行业;未覆盖职业 win rate 0.739 ≥ 已覆盖 0.692,泛化而非记忆。 推广场景:课程设计(覆盖知识图谱)、测试用例生成(覆盖分支组合)、推荐系统去马太效应、采样策略。

灵感五:角色分解让小模型干专活,on-policy 蒸馏是性价比放大器。 核心思想:把「状态维护」这类窄任务从主干模型剥离,小模型即可胜任;再用学生自采样 + 教师纠错把 2B 推到超过 122B。 论文证据:9B 与 122B 统计不可分(Δ=−0.029);OPD 后 2B tracker 0.445 > 122B 的 0.428。 推广场景:边缘部署的会话状态跟踪、实时日志清洗、低延迟审核前置过滤。

灵感六:oracle 残差是研究方向探测器。 核心思想:修复器与理论上界之间的残差(0.549 vs 0.778 的 0.229)不是失败,而是「下一个问题在哪」的精确指北。 论文证据:残差证明完整历史本身即干扰,指向 STATEFORGE 未覆盖的第二战场。 推广场景:任何带 oracle 上界的系统诊断(编译器优化、检索增强、医疗分诊)。

灵感七:给模糊现象先造尺子,再造药方。 核心思想:Intent Drift 之前只是社区抱怨;INTENTFLUX 用受控编辑 + 原生 grader 把它变成可测量对象后,修复与蒸馏才有靶子。 论文证据:b∈{1,3,5} 单调控制难度(0.476→0.419→0.384);8 模型 IDG 全正。 推广场景:任何「大家都知道是问题但没人量化」的工程现象(提示词衰减、多 agent 谣言传播、工具版本漂移)。


附录:一图总结

GraphForgeWhen Users Change Their Minds
一句话证据图锚定的工作型 agent 训练数据合成意图漂移的测量与状态折叠修复
核心机制真实文件 + 隐藏角色 + 锚定 rubric + Q>0.90 准入INTENTFLUX 受控编辑基准 + STATEFORGE 活跃状态折叠
关键数字2,169 条轨迹;GDPVal +65.7 Elo;SBII 10.3→24.0;35B 版 +101.78 模型 hard IDG 全正(max 0.448);0.367→0.467;oracle 0.549/残差 0.229
杀手实验删文件 ΔQ=−0.377;零污染重叠;未覆盖职业 win rate 0.739等长对照 0.734 vs drift 0.469;压缩 baseline 全败
开放问题锚定 judge 在高自由度任务的视野损失组件匹配消融 CI 含零;历史残差 0.229
机构USTC + 复旦 + 上海创新研究院 + 上海AI LabHKUST + CUHK + 腾讯 LIGHTSPEED

两篇合读的最大收获:可靠性不是靠更大的模型,而是靠把「对错」与「当前有效」变成显式、可锚定、可维护的数据结构——训练时锚在文件证据上,运行时记在活跃状态里。