论文一链接：SWE-Trail: History-Guided Trajectory Collection for Coding Agent Training 论文二链接：Axion 1.0: Open Agent Foundation Models, Simplified 论文二代码：bytedance/axion1_0 发表时间：2026年11月 机构：SWE-Trail 为康涅狄格大学（UConn）与蚂蚁集团合作，高校主导方法设计，企业提供 128 H800 训练算力与部分作者；Axion 1.0 为字节跳动主导（项目负责人与多数作者），Duke、马里兰大学、布法罗大学参与，一作来自 Duke 领域标签：cs.AI / 智能体后训练 / 训练数据工程

〇、导读：两条路线，一个问题

如果把 2026 年的 Agent 模型训练拆开看，权重更新的算法部分（SFT、GRPO）已经高度同质化，真正拉开差距的是喂给模型的数据从哪里来。本篇合并精读的两篇论文恰好代表了训练数据工程的两个正交侧面：

• SWE-Trail（轨迹收集侧）：任务是真的（真实 GitHub issue），问题是"怎么收集交互轨迹"。它发现独立采样存在边际收益递减，提出用同一 issue 的早期尝试历史引导后续收集精力的投放位置——历史留在收集器侧，绝不进入编码 agent 的上下文。
• Axion 1.0（数据构造侧）：训练阶段刻意做减法（仅两段 SFT + GRPO），问题构造刻意做加法。自含推理题靠对基座模型成功策略的定向加难，工具依赖任务靠结构化数据库的确定性可验证合成。

一条路线优化"真实任务上怎么采"，一条路线优化"合成任务上怎么造"。两条路线在底层的共享信念是一致的：数据的价值密度比数量更关键，而价值密度可以通过工程手段系统性提升。下面按九部分结构逐一展开，每个部分覆盖两篇论文。

一、论文背景

1.1 轨迹收集侧的背景（SWE-Trail）

要理解 SWE-Trail，需要先理解编码智能体（coding agent）的训练数据是怎么来的。编码智能体解决仓库级 issue 的过程，是一长串"探索仓库—修改代码—运行测试"的动作序列，这些交互轨迹（包含中间推理与动作，而不仅是最终补丁）越来越多地被用作后训练数据。收集过程直接决定了训练数据的价值。

当前最主流的收集方式是独立采样：对每个 issue 并行采若干条轨迹，然后用测试或评判器筛掉失败的，保留成功的用于训练。后续还有一整条"轨迹整理"研究线：遮蔽有缺陷的工具调用、删冗余步骤等。但这些方法都发生在轨迹收集完成之后，同一 issue 的各条轨迹在生成时彼此独立。

这带来一个被忽视的问题：冗余。论文用 SeedBank 的数据做了量化——对每个 issue 独立采 5 条轨迹，第 2 条相对第 1 条平均新增解决 13.1 个 issue，而第 5 条只新增 3.4 个；即便所有尝试全部失败（never-solved 类），失败尝试之间修改文件的 Jaccard 重叠高达 0.841，93/198 个 issue 的重叠为 1.0。也就是说，独立采样在反复撞同一堵墙，后续尝试并不会因为前面的失败而转向。

一个自然的想法是利用历史：把早期尝试作为 advice（建议）放进 agent 上下文。但这里藏着第二个问题——训练-测试失配：轨迹里的推理是在"看得见建议"的条件下生成的，测试时模型却没有这些建议。SWE-Trail 的实验证实了这一担忧：用 agent 可见经验（SWE-Exp 式）收集的轨迹训练学生模型，成绩反而比独立采样基线低 1.33/2.78 个点。于是核心问题变成：历史如何引导收集精力的投放，而让编码 agent 自己决定生成什么？

1.2 数据构造侧的背景（Axion 1.0）

Axion 1.0 面对的背景是 Agent 基础模型的"配方通胀"。现代 Agent 模型的训练管线越来越复杂：中途训练（mid-training）、多个监督阶段、能力专属数据混合、偏好优化、强化学习、各种后训练补丁层层堆叠。单项组件或许各有道理，但累积效应是：没人说得清哪些配料真的必要，复现成本越来越高，能力增益的归因越来越模糊。

同时，很多号称"开源"的模型只放出了权重，数据构造、过滤、验证、提示词、训练代码全部黑箱。而 Agent 模型的能力恰恰高度依赖训练数据与交互设计——不开放这些，等于没开放复现能力。

Axion 1.0 的问题是：构建一个强且广的 Agent 基础模型，这套复杂度里有多少是真正必要的？ 它的回答是极简三阶段——两段轻量 SFT 加一段 GRPO 强化学习，不做中途训练、不做 DPO、不做在策略蒸馏（OPD）。但注意其核心原则的原话：“简化训练管线不等于简化学习问题”——省下来的工程复杂度全部转移到数据构造上：自含推理数据按基座模型自身能力定向加难，工具依赖数据从真实结构化数据库确定性合成。

1.3 两篇合起来看的背景

两篇论文的共同对手是"数据获取方式成为能力瓶颈"：SWE-Trail 对抗的是真实任务轨迹收集的冗余与失配，Axion 对抗的是合成数据难度不足与不可验证。它们的互补性还体现在：SWE-Trail 训练数据全部来自真实 issue（300 个 SWE-rebench V2 issue），Axion 的 SFT 数据全部来自程序化合成（10.8K + 7.5K 条轨迹）；前者证明"收集策略本身就携带训练信号"，后者证明"构造质量可以替代训练阶段数量"。

二、论文定位和关联工作

2.1 SWE-Trail 的研究谱系

谱系一：测试时搜索与选择。 Codemonkeys 等方法对同一 issue 独立采多条 rollout 再用测试选择；SWE-Replay（arXiv 2601.22129）复用早期尝试的前缀或摘要来指导后续 rollout；SWE-Search 等树搜索方法在当前求解内生长执行树。关键区别：这些方法的额外算力都花在"解决当前 issue"上，产出是更好的补丁；SWE-Trail 的额外算力花在"产出更有训练价值的轨迹"上，产出是更好的训练数据。目标是数据工程而非测试时性能。

谱系二：轨迹生成与整理。 SWE-Gym（arXiv 2412.21139）是首个 SWE 智能体训练环境，SWE-Smith 等扩展任务规模；SWE-TRACE、SWE-Lego 等对已完成的轨迹做过滤与过程级编辑（如遮蔽工具错误）。SWE-Trail 的差异：这些方法操作的是"收集完成之后"的轨迹，而 SWE-Trail 在轨迹生成过程中注入历史引导，且比较产生的是新执行证据而非事后筛选。论文还实验了 Top-5-of-10（10 条独立轨迹选 5 条），其结果低于 H5 1.56/0.96 个点，证明事后选择替代不了收集过程本身。

谱系三：经验引导型智能体。 Reflexion、Agent Workflow Memory、ExpeL 等让 agent 用反思、蒸馏洞见、工作流与技能指导后续动作；SWE-Exp 把早期修复轨迹编译成经验消息给 agent 看。SWE-Trail 的立场与它们形成精确对立：经验可以引导"收集精力投在哪"，但不能进入"agent 生成时的上下文"。SWE-Exp 的适配版在论文实验中全面低于独立采样基线，为这一立场提供了反面证据。

2.2 Axion 1.0 的研究谱系

谱系一：Agent 基础模型。 Kimi K2、GLM-4.5 把推理、编码、工具使用整合为通用能力；MiroThinker-1.7 用中途训练 + SFT + 偏好优化 + RL 的多阶段栈；Agents-A1（arXiv 2606.30616）用长程监督加多教师域路由在策略蒸馏。Axion 的定位是这些复杂配方的"对照组"：只用两段 SFT + GRPO 能走多远。与同量级的 Agents-A1 相比，Axion 1.0-35B 在 HLE/SEAL-0/FS Olympiad/FS Research 上分别高 4.6/5.8/7.0/16.7 个点——用更少的训练阶段拿到了更好的结果（尽管两者设置不完全对齐，跨源对比仅为指示性）。

谱系二：可验证难题构造。 Self-Instruct 与 Evol-Instruct（arXiv 2304.12244）开创了用 LLM 迭代改写提升指令复杂度的路线；Absolute Zero（arXiv 2505.03335）用执行接地的自博弈让模型自己出题自己解。Axion Stage I 的差异在"定向"二字：它不是随机加难，而是针对基座模型已解出题目的成功策略施加四种变换之一，专打模型的舒适区。工具侧的 TaskCraft、WebShaper、QUEST 构造可验证多工具任务；Axion Stage II 的差异是"答案先于问题"——确定性程序先算出参考答案，LLM 只负责把选择条件与计算要求表述成自然语言。

谱系三：推理与工具使用的 RL。 DeepSeek-R1 证明 RL 提升推理；Search-R1（arXiv 2503.09516）把 RL 扩展到与检索交错的多轮推理。Axion 的 GRPO 沿此路径，增量在于奖励设计：依赖序部分进度分 P 按前缀积聚合，让"做对前两步但没做完"的轨迹获得部分信用。

谱系四：开放可复现配方。 OpenThoughts、DR Tulu、QUEST 开放数据配方与训练脚本。Axion 把开放范围扩到全链路：数据构造、生成、过滤、验证、提示词、训练代码全部放出。

2.3 定位对比表

三、问题定义

3.1 SWE-Trail 的抽象

具体问题：如何为编码智能体收集比独立采样更有训练价值的轨迹？

核心洞察：早期尝试历史中蕴含"分配信号"（allocation signals）——成功与失败路线的分歧点指出哪里值得多花收集精力，重复失败模式指出哪里在浪费精力。这个洞察把轨迹收集从"采样问题"重构为"精力分配问题"。

类比：轨迹收集 ≈ 主动学习中的采样预算分配。在主动学习里，你有一池未标注样本与有限标注预算，关键不是多标而是标得准；在 SWE-Trail 里，你有固定的轨迹预算（每 issue 5 条），关键不是多采而是在"信息量大的状态"上采。对应关系：

形式化：给定 issue xi（含问题陈述与仓库快照）、历史 Hi（已收集的尝试集合），求新的轨迹收集策略，使得学生模型在其上训练后的下游解题率最大化；约束是历史 Hi 不得进入编码 agent 的生成上下文（信息边界约束），参考补丁不可用，每条轨迹的比较次数有界。

精妙之处：目标函数定义在"学生模型的下游性能"而非"收集成功率"上——论文实验恰恰证明两者脱钩（H0 收集成功数比 SeedBank 多 37 条，学生只涨 0.11 个点）。信息边界约束则把"历史的价值"与"历史的污染"切开：分配信号留在收集器，决策生成留给 agent。

3.2 Axion 1.0 的抽象

具体问题：最少用几个训练阶段、什么质量的数据，能构建强且广的 Agent 基础模型？

核心洞察：训练管线的复杂度与数据构造的深度可以在一定程度上互换——把工程精力从"堆训练阶段"转移到"按模型能力定制度造数据"，可以用极简配方达到复杂配方的效果。

类比：训练配方 ≈ 教学法，数据构造 ≈ 教材。Axion 的主张相当于：与其增加课时种类（多阶段训练），不如把教材编到精准命中学生的最近发展区——Stage I 专门出"学生跳一跳够得着"的加难题（基座能解的题定向加难一档），Stage II 出"必须去图书馆查资料才能做"的题（屏蔽闭卷路径）。

形式化：给定基座模型 π0，构造两段 SFT 数据集——自含推理集 Dsc = {(xi, τi, ∅, yi)}（无程序化中间验证目标）与工具依赖集 Dta = {(xi, τi, zi, yi)}（zi 为中间验证目标链），要求：(1) Dsc 中题目难度对齐基座能力的上沿（基座解不出的初始加难题 + 解得出但再被加难的题）；(2) Dta 中题目必须依赖外部检索才能解（闭卷可解的剔除）；(3) 所有参考答案独立可验证（GPT-5.5 三次独立求解一致 / 确定性程序计算）。在此基础上以 Dta 的任务池做 GRPO，奖励 R = 1（答对）或 max(0, 0.3P − 0.1(1−A))。

精妙之处：三条约束各自封死一条捷径——难度约束防止 SFT 数据落在基座已舒适区（浪费监督信号），闭卷剔除防止工具任务被记忆作答（伪装成检索推理），答案先验验证防止合成数据的错误答案污染训练。问题定义本身就是一个"反捷径"设计。

四、问题解法

4.1 SWE-Trail：两阶段收集器

SWE-Trail 的架构可以概括为一句话：离线把历史编译成冻结的采集计划，在线在计划命中的状态做一次有执行证据背书的岔路选择。核心原则是"历史在收集器侧、不在编码 agent 上下文内"。

阶段一（离线）：编译冻结的采集记录 Ri。 类比：把老会计的账本审计经验写成一张查账清单，而不是让新员工背着账本干活。编译器读取 (xi, Hi) 与有界只读仓库检查（不修改源码、不访问参考补丁），产出三样东西：

不同历史类型导向不同焦点：stable-solved（全部成功）只在仍有实质不确定性时分配精力；mixed（有成败）聚焦成功与失败修复路线分歧的状态；never-solved（全部失败）聚焦重复失败模式（如"编辑后继续读文件而不跑测试"）。每个检测器状态在收集开始前对照支持证据验证、在已录尝试上回放校验，支撑不足的丢弃，之后整轮冻结——这防止了采集计划随生成过程漂移。

阶段二（在线）：策略生成动作，收集器选路由。 当 rollout 命中检测器状态 d 时：

1. 候选采样：编码 agent 从普通上下文提议若干候选动作（历史、Ri、ui 全都不进上下文）。第一个样本用普通温度作为默认，其余用 λi。
2. 分组与短路表：等价提议归组，保留默认候选，从其余中至多选一个可执行替代——每条轨迹至多一次比较，避免收集膨胀成多层搜索树。
3. 并行执行：从同一 checkpoint 恢复两个隔离工作区，默认与替代各跑一个短视野后缀，得到两条已执行的动作-观察序列。
4. 身份盲选择：两条后缀以乱序呈现给选择器（隐藏哪条来自默认），按 ui(d) 比较执行证据；只有一条明显更优时才选它，否则保默认。
5. 导出：训练记录只保留选中路由，agent 的原始推理与动作不重写、不重写措辞，未选中后缀与私有收集事件全部删除——训练数据是一条由编码 agent 自身上下文连续生成的完整轨迹。

论文的 Rust 例子讲得很具体：所有先前失败轨迹都是"改完代码继续读文件、不跑测试"，检测器就识别这种状态再次出现；新 rollout 命中时 agent 提出继续读文件与运行测试两个候选，两路各执行一小段，测试路产生了"14 passed"的验证信号而读文件路没有，选择器据此选测试路，agent 从该工作区继续直到 rollout 结束。

4.2 Axion 1.0：极简三阶段配方

Stage I：自含推理 SFT（10.8K 条轨迹）。 类比：教练先看运动员能举起多重的杠铃，再往上加片。流程是"种子题 → 初始组合 → 基座测试 → 定向加难"：

• 从数学/物理/化学/生物/计算机的公开课程、竞赛、推理数据集收集种子题；
• 生成器 LLM 施加组合操作（操作 A）：找到种子解法建立的某个量，构造一道需要该量作为必要中间结果的新题，要求答案无歧义可验证；
• 用基座模型测每道验证过的加难题（允许 Python，禁用搜索）：解不出的直接进候选题库；解得出的，把它的成功解法喂给生成器，随机施加四种加难操作之一——
  • A 组合：再加一个依赖当前答案的推理步；
  • B 参数化：把定值换成符号参数，要求通式而非数值；
  • C 范围平移：把参数范围放大到原解法的枚举或捷径失效；
  • D 案例分析：设置答案随条件分化的分支；
• 每道题的参考答案由 GPT-5.5 三次独立求解，全一致且推导通过正确性检查才接受；病态题、欠规范题丢弃。答案在每次改写后重建，不从原题继承。

注意这个设计的锋利之处：加难不是随机的，而是打在基座成功策略的路径上——B 破坏具体数值代入，C 破坏枚举，D 破坏单一推理链。目标是增加所需推理量，而非单纯拉长题目或提高数值精度。

Stage II：工具依赖推理 SFT（7.5K 条轨迹）。 类比：闭卷考试改成开卷查资料，但考卷上绝不出现资料原文。对结构化公开数据库（天文、生物、化学、数学、地理、航空等）执行四步确定性构造：

1. Filter：显式条件筛出候选实体集（如有环行星 → 木星、土星、天王星、海王星）；
2. Select：按极值等标准唯一选定实体（如质量最小 → 天王星）；
3. Compute：取该实体属性按确定性公式计算（ρ = M/(4πR³/3) ≈ 1.27 g/cm³），极值选择要求对次名有足够裕度防答案不稳定；
4. Verbalize：LLM 把条件与计算要求表述成自然语言问题，检查不丢约束、不泄露选定实体或答案，尽量避免提及源数据库名。

工具依赖的强制是这一阶段的灵魂：构造期数据库对求解器屏蔽，只开放通用搜索、网页访问与 Python；再用无检索探针把闭卷就能答对的题剔除。于是每道题天然要求"检索—检查—计算"闭环，而参考答案在 LLM 碰题之前就已经程序化确定。中间实体与数值（如选中的实体、中间量）保留为可选验证目标 zi，求解时不展示。

训练与 RL。 两段 SFT 均只监督 assistant 生成的 token（推理、工具调用、最终答案），工具观察只作上下文不计损失。Stage II 从 Stage I 检查点续训。GRPO（verl 异步框架）从 Stage II 检查点出发，任务来自 Stage II 同一构造池，奖励 R = 1（答对）或 max(0, 0.3P − 0.1(1−A))：P 是依赖序验证的中间进度分（第 j 步得分当前 j 步全部通过，前缀积聚合，三步链只过 1、3 步则 P=1/3），A 为是否提交了有效终答（不提交扣 0.1）。RL 任务入池标准：当前模型 4 条采样中至少 1 条答对且奖励非零方差——保证有可行解路径且有组相对学习信号。

训练-推理一致性工程（TITO 与 R3）。 两项工程解决 rollout 引擎（vLLM）与训练后端（Megatron）的系统差异：TITO（Token-In-Token-Out）让 agent 循环直接交换 token ID、共享 token 缓冲，杜绝 BPE 重分词导致的序列漂移——上下文压缩后新前缀只在会话开始分词一次；R3（Rollout Routing Replay）记录 rollout 时每个 token 的 MoE 专家选择并在训练器前向中回放，弥合两套系统专家路由的不一致。在 122B 上 R3 使平均梯度范数从 1.998 降到 1.922、PPO KL 从 0.0413 降到 0.0396，HLE-130 从 72.3 升到 74.6。

4.3 两篇解法的结构对照

五、评估指标与实验证据

5.1 SWE-Trail 的实验体系

评估设计的独特之处：SWE-Trail 不比收集时的解题率，而是把各条件收集的轨迹用于训练同一个学生模型、比较下游解题率——因为论文要证明的命题是"收集方式改变训练价值"，只有下游训练才能直接度量训练价值。

主实验设置：300 个 SWE-rebench V2 issue × 每 issue 5 条轨迹 = 1500 条训练轨迹；收集器为 GLM-5.1 + OpenHands 脚手架，离线沙箱运行（提交历史删除、参考补丁不可用）；主学生为 124B Ling-3.0-flash-base，128 张 H800 全参 SFT，每个数据集独立训练 3 次；评测 SWE-bench Multilingual（300 任务）与 SWE-bench Pro（731 任务），报 3 次训练的均值。收集仓库与两个评测基准零重叠。

核心数字（学生均值解题率，%）：

这一组数字的三层对比各自支撑一个论点：

• H5 vs SeedBank：3 次训练中 H5 每一次都超过 SeedBank 每一次（置换检验 p=0.05）——增益稳定而非种子运气；
• H5 vs H0：历史本身贡献 +2.22/+0.87，因为 H0 与 SeedBank 相比几乎无增益（Multilingual 仅 +0.11），所以管线（并行执行 + 证据选择）不是增益主体——尽管 H0 收集的 resolved 轨迹比 SeedBank 多 37 条；
• 随机化消融：把 H5 的检测位置换成随机合格状态掉 1.44/1.28，把保留路由换成随机选择掉 0.89/1.19——“在哪比较"与"保留哪条"两个决策都有贡献。

第二学生：Qwen3-14B-Base 在同一 H5 轨迹上训练，较 SeedBank 提升 +3.11/+2.42，较 H0 提升 +1.67/+1.60——增益跨学生模型成立。

历史规模与成本：H10（10 条历史）较 H5 只再加 0.22/0.14 个点，但采集 token 从 307M 增到 510M（+66%）、总 token 增 12.9%——历史收益快速饱和，H5 是性价比拐点。Top-5-of-10（10 选 5）低于 H5 1.56/0.96，证明多采样后筛选追不上定向收集；Top-5-hybrid（SeedBank+H5 合并后再选 5）到 66.22/43.14，说明事后选择与 SWE-Trail 互补。

过程统计：H5 较 H0 平均动作数从 40.89 降到 39.51、重复文件读取从 7.59 降到 7.01——训练数据里的"更短更少重复"传导到了学生的评测轨迹。按历史类型分解：mixed 历史以 51/300 的 issue 数贡献了 16 条新增 resolved 中的 13 条、6 个新增 solved issue 中的 5 个——增益集中在成败路线可对照的 issue 上，与第 2.2 节的分配信号分析一致。

机制漏斗（H5 vs H0）：候选采样发生率从 664/1500 升到 1147/1500（mixed +29.8pp、never +35.4pp、stable +17.3pp），而候选多样性（≥2 个不同动作约 90%）与替代选择率（37.4% vs 39.0%）基本不变——历史的贡献主要是"让比较发生得更频繁”，而非"让比较的结果更偏替代"。

5.2 Axion 1.0 的实验体系

模型与协议：35B-A3B（Qwen3.6-35B 基座）与 122B-A10B（Qwen3.5-122B 基座）；自评模型每基准跑 3 次（BMB 5 次）取最佳单次，用各基准官方评分流程。作者明确声明跨来源基线（官方报告/他人评测/自评）的执行设置可能不同、对比仅为指示性——这份协议自觉在技术报告里相当罕见。

总体成绩（%）：

关键读法：对同量级 Agents-A1 全面领先（FS-Research +16.7 最悬殊）；122B 在 FS-Research 超 GPT-5.6 Sol 3.4 个点、FS-Olympiad 超 7 个点；但 HLE 仍低于 Claude Fable 5（59.0 vs 63.8）、BMB 低于 Opus 5 与 GPT-5.6 Sol——通用推理与生物数据分析的头部闭源优势仍在。HLE 分数用受限网站访问测得，无限制时 35B/122B 分别为 59.1/64.8。FS-Research 的 rubric 分 122B 达 7.09。

逐阶段归因（HLE-130 口径）是最有信息量的实验：

122B 基座到最终提升 +33.8，其中 Stage I 一段就贡献 +27.7——主要增益来自定向加难的自含推理 SFT，这直接验证了"数据构造深度可以兑换训练阶段数量"的核心命题。Stage II 的增益集中在数据依赖任务上：35B 的 BMB 从 17.6 跳到 35.3（翻倍）、FS-Research 从 48.3 到 58.3——可验证工具任务训练精准命中了工具依赖评测。RL 的增益模式：35B 的 SEAL-0 +9.0（信息获取类任务受益最大，与依赖序部分奖励的机制吻合）、HLE-130 +3.8；122B 的 BMB +6.4、HLE-130 +6.1。RL 在 35B 上对 FS-Research 略降 1.6——RL 不是万能药，其收益集中在奖励信号覆盖的任务类型上。

规模与基座迁移：4B/9B 仅两段 SFT 即达 HLE-130 53.1/63.1——构造数据在小模型上同样有效。Qwen3.5-35B 与 Qwen3.6-35B 同配方对比：SFT 前 HLE-130 差 9.2，SFT 后缩到 0.8——配方对较弱基座有"追赶效应"，不完全依赖强起点。

训练成本：122B 两段 SFT 共 7.5 小时（240 GPU 时，128K 上下文，841M+357M token），35B 共 2.8 小时。这个量级意味着一个学术实验室级别的预算即可复现——这本身就是"极简配方"主张的一部分。

六、效果优势的根源解释

6.1 根源机制与证据链

SWE-Trail 的因果链

因果链一：独立采样的冗余是结构性的，不是运气。 独立采样时各轨迹共享同一 issue 与同一（冻结的）agent 上下文，其探索被 agent 对 issue 的先验理解锚定 → 后续尝试高概率回到同一修复目标（never-solved 的 Jaccard 0.841；k=1→5 边际新增 issue 13.1→3.4）→ 第 5 条独立轨迹的信息增量趋近于零。【论文实验已支持（Section 2.1 动机数据）】

因果链二：历史中的分配信号真实存在。 mixed 历史中，成功与失败尝试会到达相似状态却选择不同后续动作——43 个可比较 mixed issue 里 GPT-5.6-Sol 在 26 个、GLM-5.1 在 31 个找到有意义的决策分歧点（20 个被两者共同识别）→ 这些分歧点就是"多花收集精力可能改变轨迹走向"的位置。【论文实验已支持（Section 2.2 审计）】

因果链三：历史在收集器侧改变了轨迹的信息结构，而非仅仅提高成功率。 H0（无历史）比 SeedBank 多收 37 条 resolved 轨迹但学生仅 +0.11 → 说明"更成功的轨迹"本身不产生训练增益；H5 比 H0 仅多 16 条 resolved 但学生 +2.22 → 增益来自历史引导下轨迹的内容差异：mixed 历史触发的比较让轨迹在关键决策状态携带执行证据支持的选择，且这类轨迹的推理完全由 agent 自身上下文生成（无建议依赖）。过程统计佐证：H5 轨迹更短、重复读更少，且学生推理轨迹继承了这个行为特征。【论文实验已支持（Table 4、Table 21、F.1/F.2）；“信息结构"的具体量化（如关键状态决策质量）论文未直接测量，属阅读者推测】

因果链四：advice 进上下文造成训练-测试失配。 SWE-Exp 式经验消息使轨迹推理依赖测试时不存在的信息 → 学生 −1.33/−2.78。附录 H.2 的双向导出实验（保留 vs 删除建议）结果不一致（删建议升 SWE-Pro 降 Multilingual），说明收集之后再删建议无法消除建议对生成过程的影响——agent 是在读了建议之后做的推理，有些决策已失去原有支撑信息。这从反面论证了信息边界必须设在生成时而非导出时。【论文实验已支持；失配的具体机制（哪些类型的决策依赖建议）未深入剖析，标注为阅读者推测的部分推断】

反事实推理：若去掉"历史引导检测位置”（随机检测），H5 掉 1.44/1.28 至 64.22/41.54；若去掉"执行证据选路"（随机保留），掉 0.89/1.19。两个随机化版本仍高于 SeedBank——两个组件各贡献一部分，且部分互补。若把每 issue 预算翻倍改为 10 选 5（Top-5-of-10），仍差 H5 约 1 点——事后选择无法模拟定向收集产生的内容差异。

Axion 1.0 的因果链

因果链一：定向加难制造了落在基座能力边沿的监督信号。 Evol-Instruct 式随机加难的问题：难度与学习区脱钩——太难的题基座完全无从学起（解不出则轨迹收集失败），太易的题无信息量。Axion 只对基座已解出的题加难：加难后的题仍处在其能力边沿（原策略被破坏但相邻策略可达）→ SFT 监督信号恰好覆盖"差一步"的推理模式 → Stage I 一段带来 122B HLE-130 +27.7。【论文实验已支持（逐阶段表）；“边沿"的精确定义与测量论文未给出，机制表述部分为阅读者推测】

因果链二：四操作破坏的是特定成功策略，不是泛泛的难度。 B 参数化破坏数值代入，C 范围平移破坏枚举捷径，D 案例分析破坏单链推理——每种操作针对一类可被记忆/捷径化的解法。这解释了为何 Stage I 后 FS-Olympiad（85.0/86.0）与 HLE 大涨：竞赛与专家级问题要求的恰是"捷径失效后仍能推理"的能力。【操作与被破坏策略的对应是论文设计的显式陈述；与具体基准增益的因果连接为阅读者推测】

因果链三：屏蔽数据库 + 闭卷剔除把"工具任务"变成真工具任务。 若不屏蔽，构造期数据库泄漏会让求解器直接查表 → 任务退化为 lookup；闭卷可解的题被剔除后，留下的任务必然要求外部检索 → SFT 轨迹示范完整的"搜索—检查页面—计算"闭环 → BMB/FS-Research 类数据依赖任务跃升（35B BMB 17.6→35.3）。【论文实验已支持（闭卷剔除为显式设计；Stage II 增益集中于数据依赖基准）】

因果链四：依赖序部分奖励给长程任务提供了稠密信号。 纯结果奖励（0/1）在长程任务上信号稀疏；P 的前缀积设计让"完成前 j 步且此前全对"获得 j/m 的部分信用 → GRPO 组相对优势有区分度 → 信息获取类任务受益最大（35B SEAL-0 +9.0）。【论文实验已支持（增益模式与奖励设计的对应）；不同奖励设计（如非前缀积）的对照未做，此机制的排他性解释属阅读者推测】

反事实推理：若去掉 Stage I（直接 Stage II），122B 的推理地基（HLE-130 68.5 的起点）不存在——论文虽未做组件删除消融（逐阶段表是序列检查点而非删除消融，作者明确声明），但基座到 Stage I 的 +27.7 与 Agents-A1（走 OPD 路线）的对比共同暗示：没有定向加难数据，同样的算力难以达到同等推理水平。若去掉闭卷剔除，Stage II 数据将被记忆可解的题目稀释，BMB 的翻倍增益预计不可复现——此为阅读者推测，论文未报告剔除比例。

6.2 相关工作检索与对照

以下为围绕两篇论文核心机制的外部检索结果（WebSearch 检索于 2026-11-04）：

检索范围与诚实声明：以上检索覆盖"SWE 轨迹收集/测试时复用"“指令加难/自博弈出题"“检索 RL"“Agent 基础模型配方"“自我提升"五类关键词（中英文）。在本次检索范围内，未发现与 SWE-Trail 的"历史在收集器侧、agent 上下文纯净"信息边界完全同构的先例工作（SWE-Exp 是其明确反对的对立面，SWE-Replay 在测试时侧）；也未发现与 Axion 的 Filter-Select-Compute-Verbalize 确定性构造 + 闭卷剔除组合完全相同的工具任务构造管线（TaskCraft/WebShaper 未在本次检索中逐篇核验原文，依据 Axion 论文的 Related Work 描述转述）。“未发现"限于本次检索范围，不代表不存在。

6.3 综合判断与未决问题

多研究共同支持的机制：

1. 学习信号的难度应对齐学习者当前能力（Axion 定向加难、Absolute Zero 可学习性驱动出题、SPIN 自身分布锚定从不同范式收敛于此）；
2. 历史尝试含可利用的分配/复用信号（SWE-Trail 审计 + 增益、SWE-Replay 测试时复用收益）；
3. 真实任务上"多采样再筛"存在边际递减（SWE-Trail 动机数据、Top-5-of-10 追不上 H5）。

仍属推测的机制：

1. SWE-Trail"训练价值提升"的具体载体——是关键决策状态的质量、轨迹简洁性、还是混合历史带来的分布修正，论文证据（过程统计、mixed 分解）支持但未完全分离；
2. Axion 四操作与被破坏策略的精确对应（设计意图明确，基准层面的机制归因是推断）；
3. 依赖序部分奖励相对其他过程奖励设计（非前缀积、独立验证）的优越性未做对照。

优势的适用条件：

• SWE-Trail：需要可恢复环境状态（checkpoint 回滚）与可执行反馈来比较候选；扩展到 Web 导航等环境的可行性论文自认未验证；增益幅度（2-3pp）依赖足够的训练重复次数才能稳定显现。
• Axion：Stage I 依赖基座已有一定解题能力（太弱的基座"能解出的题"池太小）；Stage II 依赖高质量结构化数据库（覆盖面限自然科学域）；RL 部分奖励依赖可程序化验证的中间目标，开放域任务不可直接迁移。

可能的失效条件：当收集模型与目标学生模型同源时，SWE-Trail 的信息边界收益可能变化（论文用了不同收集器/学生对，但只测了两对学生）；Axion 配方在编码/工程类任务上的效果论文未覆盖（对比表中无 SWE 类基准），其"广度"主张在工程域仍是未决问题。此外两篇都未触及：数据构造与轨迹收集的组合（用 Axion 式合成任务做 SWE、用 SWE-Trail 式历史引导收集 RL rollout）是否叠加，是显而易见的下一步。

七、必要知识反推

假设一个没有任何背景的人要完成这两篇论文，最少必须掌握什么？

7.1 领域知识层

• SWE-Trail 侧：编码智能体的运作方式（探索-编辑-验证循环、OpenHands 类脚手架的角色）；SWE-bench 系评测的解题率定义与测试验证机制；仓库级 bug 修复的典型失败模式（重复目标、编辑后不验证）。不理解这些就无法设计"检测器"这种状态级规则。
• Axion 侧：Agent 模型的能力分类（自含推理 vs 工具依赖推理的界限）；结构化数据库的实体-属性-值模型；ReAct 式工具循环；各评测基准考察的能力结构（HLE 的跨学科推理、SEAL-0 的信息获取、BMB 的真实数据分析）。不理解推理与检索的边界，就设计不出"闭卷剔除"这道闸。

7.2 方法论知识层

• 轨迹数据的训练价值理论：SFT 学生从轨迹学的是"状态-动作"条件结构，任何训练时可见而测试时不可见的信息（advice）都会制造条件分布失配——这是 SWE-Trail 信息边界的理论根基，作者必须从 SWE-Exp 的失败中反向确认。
• 课程学习与最近发展区：Axion 的定向加难本质是把维果茨基式的"跳一跳够得着"操作化；必须知道 Evol-Instruct/Absolute Zero 的先例才能定位自己的增量在"定向”。
• RLVR 与奖励设计：GRPO 的组相对优势机制、过程奖励 vs 结果奖励的稀疏性权衡——Axion 依赖序部分奖励的直接前置。
• 实验因果推断：SWE-Trail 的 H0 对照、双随机化消融、置换检验设计需要对照实验方法论；Axion 作者对"逐阶段检查点不是组件删除消融"的自觉声明同样需要。

7.3 工程知识层

• SWE-Trail 侧：沙箱环境的状态恢复（同一 checkpoint 分叉两个隔离工作区）、离线收集的防泄漏（删除提交历史、屏蔽参考补丁）、124B 全参 SFT 的训练工程（128 H800）。
• Axion 侧：MoE 大模型的长轨迹 SFT（FSDP + 专家并行 + 上下文并行的组合选择）、异步 RL 的 rollout/训练器分离架构、BPE 重分词与专家路由两大训练-推理失配源及 TITO/R3 对策、verl 框架。

7.4 知识融合的关键节点

两篇论文各自有一个"化学反应"式的融合节点：

• SWE-Trail：把主动学习的"预算分配"视角嫁接到轨迹收集上，同时用"advice 失配"的反面证据约束住嫁接方式——分配信号可以过墙（进收集器），生成依赖不能过墙（不进上下文）。缺任何一侧（没有分配视角或没有失配意识）都得不到这个设计。
• Axion：把"课程学习"的难度对齐原则与"程序化可验证"的构造工程拧在一起——难度对齐靠基座反馈（哪些题解得出），可验证靠确定性程序（答案先于问题算出）。单独任何一个都已有先例，融合点在于让同一道题既落在能力边沿又天然可验证。

八、论文中可以提取的通用性灵感

灵感一：信息边界原则——引导信号与生成依赖分离。 核心思想：外部信号（历史、建议、评估）用于指导"资源投在哪”，但最终产物的生成过程必须不依赖该信号，否则产物在信号缺席的使用场景中退化。 论文证据：SWE-Trail 把历史编译为检测器在收集器侧使用，agent 上下文纯净 → 学生 +2.33；SWE-Exp 把经验放进上下文 → 学生 −1.33/−2.78；删建议的导出实验证明事后清理无效。 推广场景：(1) 代码生成中用历史失败指导测试用例投放而非提示词；(2) 教育软件中用错题分析决定推送哪类题，而非把分析直接写进题干；(3) 推荐系统中用用户历史做流量分配，生成侧只见分配结果；(4) 机器人示教中用先前失败决定练习哪个子任务，演示轨迹保持自洽。

灵感二：能力边沿制造——按学习者已验证的成功定向加难。 核心思想：为学习者制造下一个挑战时，从"他刚做对的事"出发破坏其成立条件（换参数、扩范围、加分支），而不是随机上难度。 论文证据：Axion 只对基座解出的题施加 B/C/D 操作，Stage I 一段贡献 122B HLE-130 +27.7；4B/9B 小模型同样有效（53.1/63.1）。 推广场景：(1) 个人健身计划按当前能完成的动作加变化而非直接上大重量；(2) 游戏难度系统检测玩家熟练策略后针对性失效；(3) 面试题库按候选人已答对的题型变形；(4) 数学练习册的"变式题"设计原则化。

灵感三：答案先行构造——先确定性地算出答案，再表述成问题。 核心思想：构造可验证任务的顺序是"参考答案 → 题面"而非"题面 → 验证”，让验证在任务诞生时就成立。 论文证据：Axion Filter-Select-Compute 三步程序先产出 1.27 g/cm³，Verbalize 才生成题面；闭卷剔除后任务必然要求检索。 推广场景：(1) 考试题库的程序化命题；(2) 验证码/反机器人任务的自动生成；(3) 科研中假设生成与验证标准同时设计；(4) 合同条款的可执行性先于措辞起草。

灵感四：捷径封堵清单——枚举可能的作弊路径并逐条封死。 核心思想：任何"能力训练"任务都要问"不掌握目标能力还有什么办法答对”，把每条办法堵死后，任务才真正测/练目标能力。 论文证据：Axion 同时封了三条路——屏蔽构造期数据库（堵查表）、闭卷探针剔除（堵记忆）、隐藏数据库名（堵定向 lookup）。 推广场景：(1) 面试评估中封堵背题；(2) 体育青训中封堵身体条件代偿技术缺陷；(3) 安全演练中封堵"按剧本演”；(4) 模型评测中封堵训练集污染。

灵感五：收集过程即干预点——收集方式本身携带独立于结果的信号。 核心思想：同样数量的数据，获取方式（独立 vs 定向、有无历史引导）会系统性改变其训练价值；优化数据不能只优化"筛选"，要优化"生成过程"。 论文证据：H0 比 SeedBank 多 37 条成功轨迹却只 +0.11；H5 只多 16 条却 +2.22；Top-5-of-10 多采样再选也追不上。 推广场景：(1) 众包标注的任务分配策略（定向分发 vs 随机接单）；(2) 数据采集实验设计中的主动采样；(3) 教学中的例题选取策略；(4) 软件测试的用例生成顺序。

灵感六：配方减法与数据加法的兑换关系。 核心思想：当管线组件复杂到无法归因时，先验证"最简配方 + 最深数据"能到哪，再决定复杂组件的边际价值。 论文证据：Axion 以三阶段配方在 FS-Olympiad/FS-Research 超过多阶段配方的 Agents-A1 与 GPT-5.6 Sol；SFT 总成本 240 GPU 时可复现。 推广场景：(1) 系统设计的最小可行架构方法论；(2) 营养学中"先控饮食结构再谈补剂"；(3) 组织流程再造中的先删后加；(4) 教育课程设计中的内容密度 vs 课时数权衡。

九、结语：数据工程的两个正交轴

把两篇论文放回同一张地图上：SWE-Trail 优化的是真实任务数据的获取过程（横轴），Axion 1.0 优化的是合成任务数据的构造深度（纵轴）。两篇的共同方法论是把"数据质量"从形容词变成可操作的工程变量——前者把它操作化为"历史引导的精力分配 + 执行证据选路"，后者把它操作化为"能力定向加难 + 确定性可验证构造"。

对从业者，两篇给出的可迁移清单是：收集轨迹时先审计冗余（你的第 5 条轨迹还带多少新信息）、把引导信号与生成依赖分开、给每道合成题先算出程序化答案、把作弊路径列成清单逐条封死、在堆训练阶段之前先问数据还能不能再深一步。对研究者，最大的开放问题是两个轴的交点：用 Axion 式构造任务池 + SWE-Trail 式历史引导收集来喂 RL rollout，以及 SWE-Trail 的信息边界原则在非代码域（Web、GUI、机器人）是否同样成立——两篇论文都把对方的路留了一半。