本期论文
- Scaling Laws for Tool-Use Agents via Controllable Environment Synthesis(SynthAPI)· 2026 年 10 月 · Apple · Agent 数据合成 / Scaling Law
- WorkFactory: Turning Professional Intents into Executable Work for Scalable Agent Training · 2026 年 10 月 · IQuest Research + 浙江大学 + 中国人民大学 + 深圳先进技术研究院 + 上海交通大学 + 北京大学 · Agent 任务环境合成
- Gym-Anything-RT: Scaling Real-Time Environments for Vision-Language Agents · 2026 年 10 月 · Carnegie Mellon University · 实时 Agent 评测 / 环境生成
如果你只关心一个问题的答案——「Agent 的训练环境到底应该怎么造」——2026 年 10 月底 arXiv 上的这三篇论文恰好给出了互补的三块拼图:一块讲环境的组成配比要有科学(SynthAPI),一块讲环境的信息完备性要有工程(WorkFactory),一块讲环境的时间维度要有自觉(Gym-Anything-RT)。它们分别来自 Apple、中国校企联合团队和 CMU,方法画风迥异,但都在回答同一个母问题:当互联网上的多步交互数据耗尽时,合成环境如何成为 Agent 训练的可控变量,而非碰运气的黑箱。
一、论文背景
1.1 领域地基:Agent 训练的数据饥渴
LLM Agent 的能力取决于训练数据,而多步工具交互数据在互联网文本中天然稀缺——真实的多轮 API 调用、状态变更、错误恢复过程几乎不会以文本形式公开。于是「用 LLM 合成 Agent 训练环境」成为 2025-2026 年的主赛道:让一个强模型凭空写出 API 定义、数据库、任务指令、验证器,甚至完整的小游戏程序,再用另一个强模型(教师)在环境里跑出成功轨迹,蒸馏给学生模型。SWE-Gym、SWE-smith、R2E-Gym 在代码领域验证了这条路,EnvFactory、EnvScaler、SimSAT、Nemotron-Agentic 把它推向通用工具使用。
但这条赛道在 2026 年遇到了三个悬而未决的问题。第一,配方问题:同样是 32,768 个任务的预算,该造 32 个 app 每个 1024 个任务,还是 64 个 app 每个 128 个任务?该多造新指令还是让旧指令多换几个数据库?没人系统测过——各家管线的超参基本靠手感和惯例。第二,质量问题:合成专业任务时,教师 agent 经常因为环境缺一条运费条款、缺一个数据定义而无法一致地完成任务,产出被污染的监督信号——学生从带噪示范里学到的也是噪声。第三,盲区问题:所有 computer-use benchmark 的环境都在等 Agent 慢慢推理——OSWorld、AndroidWorld、Windows Agent Arena 无一例外是回合制——而真实世界的游戏机、机器人、交易系统从不等待。三篇论文各执一个问题。
1.2 初学者概念阶梯
读这三篇论文之前,建议按以下阶梯建立概念:
- 工具使用 Agent(Tool-use Agent):模型通过调用 API 与有状态环境交互,多步完成任务。与「读文档答问题」的区别在于环境会被修改、有副作用。
- 可执行环境 vs LLM 模拟环境:前者环境是真实 Python 代码+数据库,工具响应是确定性的;后者用 LLM 想象工具响应,复杂状态转移容易出错。SynthAPI 属于前者,SimSAT/Nemotron 属于后者。
- 验证器(Verifier)与 Oracle Solver:verifier 判断任务是否完成(输出二元信号),oracle 是利用环境特权信息写出必解程序,用于过滤不可解任务。三篇论文都用了这个组合拳,这是合成环境可信度的基石。
- SFT 蒸馏与 RLVR:教师轨迹做监督微调(三篇都用)是保守路线;环境的二元 verifier 天然支持可验证奖励 RL(SynthAPI 提到但太贵没做全量,附录里每个 episode 都自带 binary verifier,RL 就绪)。
- Scaling Law(缩放定律):Kaplan/Hoffmann 时代回答「参数 vs token 怎么分」,SynthAPI 把它推广到「工具多样性 vs 任务数量 vs 数据实例 vs 干扰深度怎么分」——从一维配比到四维配比。
- 信息支持图(Information Support Graph):WorkFactory 的核心表示,显式记录「每个产出依赖哪些信息、这些信息放在哪个文件」。它是构造期的隐藏规格,solver 看不到,但它决定了 solver 能不能做出来。
- 实时交互(Real-Time Interaction):Gym-Anything-RT 的严格定义——Agent 必须用「最近的视觉证据」为「动作执行时刻的状态」做决策,观察与动作之间的环境变化会降低动作价值。加装饰性动画不算实时,必须让延迟真正伤到动作价值。
1.3 为何放一起读
三篇论文表面互不引用(同周发布),实则构成一个完整的正交分解:
- SynthAPI 管宏观配方:环境的统计组成(多少工具、多少任务、多少数据库变体、多少干扰)如何随预算演化,是「生态学」层面的规律。
- WorkFactory 管微观质量:单个任务环境内部的信息依赖必须闭合,是「细胞学」层面的工程。
- Gym-Anything-RT 管时间维度:前两篇的环境全部是回合制(turn-based),它补上了环境持续演化这一被忽略的轴,是「动力学」层面的自觉。
三者的关系不是竞争而是叠加:一个理想的 Agent 训练管线应该同时用 SynthAPI 的配比定规模、用 WorkFactory 的信息图保质量、再往环境里注入 Gym-Anything-RT 式的时钟维度——虽然没有任何一篇这么明说,但拼图已经摆在桌面上。
更妙的是三者方法论上互相印证:SynthAPI 的 oracle solver、WorkFactory 的 probe solver、Gym-Anything-RT 的 oracle solution 都是「先证明环境可解再交给模型」这一原则的变体。放在一起读,能看到「环境合成」作为一个研究方向正在形成的范式共识。
一句话预览三篇的核心数字,方便带着锚点进入正文:SynthAPI 用 849 个模型换来的组成感知 law 在 16× FLOP 外推下 MAE 仅 0.0285,同预算配方差异价值 6.6+ 点;WorkFactory 的信息图+修复把跨文件不一致从 32.82% 压到 4.84%,学生模型最高 +714 Elo;Gym-Anything-RT 测出 Astra 实时 9% 对非实时 66% 的断崖,减速 64× 也只回到 57%。
二、论文定位和关联工作
2.1 谱系定位
三篇论文都站在「合成环境生成」大树的不同枝头。按环境载体分:SynthAPI 生成代码化 API+数据库环境,同代竞品是 EnvFactory、EnvScaler、Agent World Model、ScaleEnv;WorkFactory 生成含真实文件(PDF/表格)的专业工作区,近邻是 NexForge、Synthetic Computers、GraphForge、WorkGenesis;Gym-Anything-RT 生成可执行视觉小游戏程序,直接前作是 Gym-Anything 与 BALROG、VideoGameBench 等游戏 benchmark。
| 维度 | SynthAPI (2610.37648) | WorkFactory (2610.37161) | Gym-Anything-RT (2610.37567) |
|---|---|---|---|
| 核心问题 | 数据组成如何影响泛化 | 专业任务的信息完备性 | 实时交互能力测量 |
| 环境形态 | Python API + 结构化数据库 | 用户请求 + 参考文件 + 交付物 | 程序化实时视觉小游戏 |
| 可控旋钮 | A/T/S/D 四个组成参数 | 信息支持图的依赖结构 | 时钟(live/slow/paused)+ 难度 + 交互模式 |
| 科学产出 | 组成感知 scaling law | 缺陷率-下游 Elo 因果链 | 实时性瓶颈归因 |
| 训练/评测 | 训练(SFT 蒸馏) | 训练(SFT 蒸馏) | 评测(不训练) |
| 规模 | 458,752 任务 / 849 模型 | 112,686 任务 / 612 职业 | 100 游戏 × 10 配置 = 2000 |
| 机构属性 | 纯企业(Apple) | 企业+五校联合 | 纯高校(CMU 2 人) |
2.2 与前序工作的差异化
SynthAPI 相对前作的差异在「可控性」。EnvFactory/EnvScaler 也合成可执行环境,但主要强调数量扩张;DIVE 研究过工具多样性但固定任务数,不研究配比随预算的迁移。SynthAPI 是第一个把「环境组成」作为显式自变量、把「下游泛化」作为因变量、在 849 个模型上做受控实验并外推 16× FLOP 的工作。它的对手还包括 LLM 模拟路线(SimSAT、Nemotron-Agentic):后者让 LLM 想象每一步工具响应,SynthAPI 论证复杂状态转移下模拟不可靠,代码执行才是正道。
WorkFactory 的差异在「反向规划」。NexForge 从能力需求正向生成任务指令;Synthetic Computers 规划工件依赖但不区分前提与结果;GraphForge(并行工作)从真实文件构建证据图再反推任务与评分 rubric,WorkGenesis 用 rubric 归因失败并迭代修订。WorkFactory 独特点是从预期产出反向构建信息支持图,图的节点不仅记录信息内容,还记录载体绑定(放在请求里/PDF 里/未来交付物里)与供给状态(已供给/待推导),并且修复环节受「工作保持」约束——修复不能替 solver 把活干了。
这个「前提-结果边界」的显式化是它区别于所有近邻的指纹。与 GraphForge 的「从文件正推任务」相比,反向规划保证了每个环境天然服务于一个有意义的产出;与 WorkGenesis 的「rubric 审计」相比,直接 probe solver 可见环境能发现 rubric 检查漏掉的支撑失败(rubric 描述任务该长什么样,probe 检验任务真的能不能做)。
Gym-Anything-RT 的差异在「对照设计」。VideoGameBench 等游戏 benchmark 确实实时,但前沿模型在上面几乎零分,且每个游戏混杂几十种能力(3D 空间、时序推理、陌生操作学习揉成一团),低分无法归因;Real-Time Reasoning Gym 给文字游戏加时间压力,但不覆盖视觉交互。它的三个对照设计干净到令人叫绝:每个实时游戏配一个「最小改动」的非实时对应版本(只改时序不改任务,独立审计确认十配置下无其他差异);每个游戏时钟可控(live / 减速 4×/16×/64× / 暂停,全部时钟同步缩放而交互实时);每个配置有简化/完整两种交互模式(同 seed 同世界,只差控制方式)。失败率在实时与非实时版本之间的落差、随减速程度的爬升曲线,把「太慢」与「不会做」精确分离——这是此前任何 benchmark 都做不到的。评测工程也到位:动作-截图直连协议把基础设施延迟压到 50 毫秒以内,不让网络冒充迟钝。
三、问题定义
3.1 SynthAPI:组成与泛化的关系问题
形式化地,SynthAPI 要研究的是函数 P = f(A, T, S, D, M, FLOP),其中:
- A:app 数量(工具多样性),每个 app 是一组围绕同一主题的 Python API + 数据库 schema;
- T:每个 app 的任务指令数;
- S:每条指令的数据库实例数(同指令换初始数据库重跑);
- D:每个数据库的干扰数据深度(数据批次总数);
- M:模型规模(Qwen3.5 家族 2B/4B/9B/27B)。
总任务数 N = A × T × S,D 不改变任务数只改变复杂度。挑战在于三重:这个搜索空间组合爆炸,每个点训练一个模型的成本高昂(他们最终训了 849 个);性能曲面非线性(低预算下 A=8 最优、高预算下 A=64 最优,存在交叉,说明最优解在预算轴上漂移);且定律需要在拟合范围之外(最高 16× FLOP)仍然可预测——一条只能内插不能外推的曲线对「指导下一步训练」毫无用处。评估侧还有一个细节:不同 benchmark 分数量纲不可比,他们用 zero-shot 与最强模型的分差做归一化,把四个 benchmark 折成一个 [0,1] 的综合分。
3.2 WorkFactory:任务环境的信息闭合问题
WorkFactory 的对象是「专业工作环境」:用户请求 u + 参考文件集合 + 预期交付物。它的挑战用论文里的供应商选择例子最清楚:生命周期成本比较需要需求预测、报价、运费条款、折现规则分散在不同文件,若 Supplier C 的报价漏了「运费是否包含」,NPV 就无法一致计算;但若直接把算好的成本表给 solver,又把该 solver 做的实质工作外包了。
形式化地,环境必须满足两个约束:支撑完备性(每个待推导输出在 solver 可见输入中有完整前提链——每条推导的源信息要么可见、要么明确标注为外部获取并给获取途径)与工作保持(所有中间计算和判断留给 solver——不能泄漏答案、不能砍掉实质操作)。难点在于材料化过程会引入违反:LLM 生成的文件之间会数值打架、会泄漏答案、会缺关键条款,而这些违反在静态检查下不可见——程序化检查能核对文件数量与类型,LLM 检查能核对内容覆盖,但「Supplier C 的运费条款到底支不支持 NPV 计算」只有在执行中才会暴露。这是一个必须用运行时反馈才能闭合的验证问题。
3.3 Gym-Anything-RT:实时性维度的隔离测量问题
论文给出了实时交互的严格定义:当 Agent 必须使用最近的视觉证据来为「动作将执行时的状态」选择动作,使得观察与动作之间的延迟期间发生的变化会降低该动作的价值时,任务需要实时交互。这个定义的巧妙处在于它把「实时」从主观感受(快不快)变成了可操作判定(延迟是否削减动作价值)——据此可以逐配置审查一个游戏到底测没测实时性。
测量上的挑战是「混淆」:一个模型在某游戏上失败,可能因为它慢(推理要 10 秒、按键窗口 0.5 秒),可能因为它不会 3D 空间理解,可能因为它不熟悉操作界面。若没有对照,失败率无法归因。Gym-Anything-RT 的解法是把每个游戏变成自己的对照:非实时版隔离「实时性」因子,减速梯度隔离「速度」因子,简化交互隔离「操作」因子,难度梯度提供测量动态范围——四个维度全部程序化可控,且同一 seed 下各版本共享同一底层任务。此外还有工程层面的挑战:网络与转发延迟必须压到远小于模型决策时间,否则测的是基础设施而非模型。
四、解法
4.1 SynthAPI:把环境变成四个旋钮
SynthAPI 管线分两阶段,每阶段的设计都为「可控性」服务。
第一阶段造 app:builder LLM(Gemini-3.1 Pro,断网防抄袭)先写 app 元数据(名称、描述、八大类目之一——购物/音乐/效率/金融/健身/消息/工具/社交、功能清单如「发起退货」「给购物车应用促销码」),再写 db.py(Python dataclass 定义的数据库 schema,购物 app 会有商品/库存/用户/地址/支付方式/评论/购物车/订单),最后写 apis.py(只准通过四个 CRUD 函数访问数据库的 API 层,便于全程追踪状态变更;公开函数即 agent 可用工具)。64 个 app 共产出 10,472 个 API(6,266 写 / 4,206 读),每 app 中位数 144 个 API、55 个数据类、81 项功能——单个 app 就是一个小世界,这是后续「任务永远榨不干工具」现象的基础。
第二阶段造任务:任务定义为四元组 T = ⟨x, v, Db0, π*⟩——指令、验证器、初始数据库、oracle 求解器。生成流程是指令(从功能清单采样 F 个功能,让 builder 写 n 条指令,历史指令进上下文防重复)→ 验证器(读初始与当前数据库状态的二元判定函数,可访问历史变更日志)→ 核心数据 Db0_core(让任务可解的最小数据,「买红杯子」则库里必须先有红杯子和用户账号)→ D-1 批干扰数据(相似商品、无关订单,且硬约束要求不提前触发验证器、不阻碍求解、ID 不冲突)→ oracle(可访问特权信息的必解程序,每步改动都走公开 API)。过滤条件是 v(Db0)=0 且 v(Exec(π*, Db0))=1,即任务初始未完成且确实可解——两条都不满足的任务直接扔掉。
关键工程设计——发现式接口:Agent 不预先拿到全部工具定义,而是通过 list_apps / list_tools / get_tool_documentation 三个元工具按需发现,上下文只装载当前任务相关工具(list 结果故意包含无关 app 与工具当干扰项)。这既压缩了上下文长度,又迫使模型学会「探索新工具集」的通用行为——这正是下游跨 benchmark 迁移的机制基础:模型学到的不是「这 64 个 app 怎么用」,而是「任何陌生工具集怎么上手」。
组成感知 scaling law:单旋钮分析用广义 logistic 模型 P̂(N) = U·σ((b + b_N·log₂N)^ν) 分别拟合每条 A(或 S、D)曲线;联合分析把性能上限 U 从常数升级为组成函数,得到:
P̂_M(A,T,S,D) = σ(c₀ + c_A·log₂(A·S·D)) · σ(b₀ + b_T·log₂T)^ν
直觉解读:第一个 sigmoid 因子决定「天花板有多高」,由多样性参数 A·S·D 控制——工具、数据库实例、干扰深度的多样性每翻一倍,天花板按 log 曲线抬升;第二个因子决定「以多快速度逼近天花板」,由每 app 任务数 T 控制——同质任务只是沿曲线爬坡,爬不到更高的地方。乘积形式意味着两者缺一不可:没有多样性,爬得快但顶低;没有足量任务,顶高但爬不到。拟合用全部 849 个模型(Qwen3.5 四尺寸)、以 Chinchilla 近似 C≈6ML 计 FLOP、留出 FLOP 前 25% 的运行做外推验证,最小二乘逐尺寸独立拟合。训练侧用 GLM-5.2 当专家收轨迹(每任务最多四次尝试取首个通过验证器的),蒸馏 5.9B token(其中 721M 为推理与动作监督位)给学生。
4.2 WorkFactory:从产出反向规划信息
WorkFactory 流程分四步,每一步都在回答「信息从哪来、到哪去、谁负责算」。
第一步,三源意图合成:从职业层级(O*NET 式 SOC 分类)展开角色情境(合规官、市场研究分析师、管理咨询师各自的工作场景与动机事件)、从技能文档组合工作流(一个技能的输出供给另一个技能的输入时拼成多步流程:报价提取→年现金流建模→NPV 比较→采购推荐)、从真实交付物回译 plausible 任务目标(分析网上真实专业文书的用途/受众/内容/生产过程,反推「制作/更新/审阅/比较它」的任务意图),LLM 审核连贯性/专业恰当性/现实合理性后入库,覆盖 612 个职业、23 个大类——职业覆盖的广度保证了任务分布不塌缩到「写代码+写报告」两个模式上。
第二步,信息支持图规划:G_info = (V_info, V_carrier, E_info, E_loc)。V_info 是信息单元(需求预测、报价、折现规则、待算的 NPV、待写的推荐),每个节点带供给状态标记——已供给 / 外部获取 / solver 推导 / 构造内部;E_info 记录支撑关系(关联、变换、证据、约束,多源共撑一个结果是常态);V_carrier + E_loc 是载体绑定,明确每条信息住在哪:用户请求、参考 PDF、外部资源、未来交付物,还是对 solver 隐藏的构造内部需求。规划器从预期产出(成本比较工作簿 + 推荐报告)出发反向追溯每步计算的前提,直至全部落到可见载体。这个「前提在哪、结果谁算」的边界在材料化之前就已显式存在——且图被明确设计为构造期的隐藏规格,不泄漏给 solver。
第三步,材料化:把图翻译成工件级构造计划 P = (u, A, D)——具体用户请求、工件规格(角色/格式/必含内容/来源/路线:复用/改造/合成)、无环构造依赖,环境工人(DeepSeek-V4-Flash)在一个会话里按依赖顺序材料化所有工件,跨文件一致性由共享实体与作用域链接引导。程序化检查(文件数、类型对得上)+ LLM 检查(内容覆盖、请求连贯引用全部参考文件),三次重试后仍失败则丢弃——注意这个阶段的检查仍是「静态」的,查不出语义层的断链。
第四步,执行式修复:probe solver(DeepSeek-V4-Flash,Claude Code harness、1M 上下文、与 solver 完全相同的信息边界)在干净沙箱试做——看不到图、计划、历史诊断,产出带严重度分级的报告(阻断/正确性/效率/观察四级,只有阻断级触发修复)。refiner 编辑请求与现有文件(不得增删文件、不得改依赖结构),每次修复过两道审查:构造检查 + 工作保持审查(对照原始意图判断核心目标、实质操作、交付要求是否保持——给 Supplier C 补一条每箱 0.15 美元运费是合法修复,替 solver 算好 NPV 是越界,直接删掉 NPV 比较要求更是越界)。修复后 fresh probe 在全新沙箱重测(不带历史记忆),最多三轮,仍有阻断则丢弃任务。最后教师(GLM-5.3,256K 上下文)在与 probe 相同的信息边界下独立执行(94,077 任务用 GDPval-AA Stirrup harness、18,609 用 Claude Code),轨迹经轻量过滤(剔除重复推理/重复调用/交付物空洞)+ 最长 5% 任务的拒绝采样(与固定基线交付物两两比拼,最多四次尝试)后成为 SFT 数据,失败工具调用的 token 从监督掩码中剔除但保留在历史里。去污染检查(embedding 相似度 + 10-gram 重叠 + 文件哈希)确认训练集与评测集无复用。
4.3 Gym-Anything-RT:让每个游戏成为自己的对照
构建管线是四角色 agentic 流程(全部 GPT-6 Astra via Codex CLI)。
survey agent 从具身/游戏/计算机使用文献与公开演示中搜集候选,标准是:可自包含成小游戏、需视觉理解、需视觉界面操作、结果客观可验证;明确排除 OCR、静态分类、算术、问答类任务——它们不需要「对所见做出行动」。人工审核前 15 个游戏作为质量锚点。
creator agent 把候选实现为程序——关键是无论源任务是否实时,都要改造成严格实时(加装饰性动画不算,必须让观察-动作间的状态变化真正影响动作价值),同时写一个用环境特权状态求解的 oracle solution 并录视频存证,还实现 5 个难度级与 2 种交互模式。难度标定本身有一套治理流程:difficulty-review agent 把原配置对照参考集归入五级之一,creator 围绕它构造其余四级(改变信息量、依赖数、速度、精度、动力学、并行控制),相邻级审查拒绝「伪难度」(重复动作、加歧义不算变难),保证各级要求的感知/记忆/决策/控制类型一致。以旋转键盘为例:五级分别从 3 字符 12 个大键慢速、渐次提升到 8 字符 32 个小键快速不规则转向。
audit agent(独立、无修改权)审查生成/可解性/渲染/评分/失败恢复,并专门搜索「实时捷径」——如能让运动部件停下的刹车、可预计算的周期运动,发现了就打回重修(64 个游戏因此重造、23 个被修订去捷径)。审计的铁律是「忽略注释与书面声明,只认截图、录像与运行行为」——生成者自我声明无价值,行为证据才是证据。
review agent 标定难度与能力标签(3D 视觉理解、时序推理、推理规划、探索与界面理解),每个标签须有代码或行为证据支撑;另有独立的实时审查 agent 对每个配置单独判定是否满足实时定义。
非实时对应版是点睛之笔:对每个实时游戏 E,creator 做最小时序改动得到 E̅(旋转键盘保持初始布局、齿轮段保持静止直到操作离合、烤架食物入位后停驻),独立 audit 检查两版在全部 10 个配置下除时序外无差异——同目标、同控制、同难度、同信息,只差「等不等你」。时钟控制栈:live 以自然速度运行;slowdown s 让所有时钟(计时器、动画、服务端)按 1/s 速率推进——动作传递与截图仍实时,所以只改变「可用思考时间」不改变交互本身;paused 在观察窗后冻结直到动作到达。为消除传输延迟混淆,agent 与沙箱之间建直连协议(中央服务器只管生命周期、不经手动作流),动作-截图往返中位数低于 50 毫秒——毕竟你不能让网络抖动冒充模型迟钝。最终 100 个实时游戏 + 100 个非实时对应 × 5 难度 × 2 交互 = 2000 配置,能力覆盖上 31% 需要 3D 理解、100% 需要时序推理(非实时版降到 82%)、96% 需要推理规划、52% 需要界面探索。
五、实验洞察
5.1 SynthAPI:配方随预算迁移
核心数据(外推验证):
| 对比项 | 组成感知 law | 仅任务数 law |
|---|---|---|
| 留出区(top 25% FLOP)MAE | 0.0285 | 0.1706 |
16× FLOP 外推下 MAE 仅 0.0285(归一化分数),说明组成信息是可预测性的主要来源。逐尺寸看外推误差也很稳:2B 外推 MAE 0.004、4B 0.051、9B 0.026、27B 0.028——拟合区间外最远的点误差反而没有爆炸,这是 law 形式选对了的标志。单旋钮发现(9B 模型,趋势在 2B/4B/27B 上复现):
- A vs T(工具多样性 vs 任务数量):任务预算 64-512 时 A=8 最优(少工具多任务利于起步——集中在一小撮工具与数据结构上先拿基础分),≥4096 时 A=64 明显最优,且 A=8 的天花板显著低于 A=64。注意这并非功能穷尽效应——T=1024 时工具中位利用率仅 51%,app 的功能远没用完,多样性本身才是价值来源。作者还在 SimSAT 管线上复现了同样的分配规律(固定预算下 A 越多越好),说明发现不是 SynthAPI 特产的伪影。
- S(数据库广度):预算 32-512 时 S=1 最优,512-4096 时 S=2,超过 4096 后 S=4 最优且天花板随 S 递增。同一指令换库重跑,在高预算下比新增指令更值钱——因为数据操作是核心难点,跨库泛化是关键能力;预算充足后「旧题新库」比「新题旧库」教得更多。
- D(干扰深度):高预算下 D=4 带来大幅增益,干扰数据逼迫模型学会在密集状态中检索决策。作者留了一个诚实的 caveat:下游 benchmark 对密集数据库状态的敏感度有限,更强调稠密检索的 benchmark 上这一维度的 scaling 行为可能不同。
三条合起来的实践含义可以写成一张「配方速查」:预算小(<512 任务)先集中在少数工具上把基本功练起来;预算中等(1K-4K)开始铺工具面;预算大(>4K)果断转向多样性——更多 app、同指令多库、更大干扰深度,任务数量反而是最不着急的维度。
下游迁移(同 32,768 任务预算):Opt 配方(A=64,T=128,S=4,D=4)vs SubOpt 配方(A=32,T=1024,S=1,D=2)在 4B 模型 AppWorld Test-C 上 45.0 vs 38.4,同预算下纯配方差异就有 6.6 点——这就是「错误配方的机会成本」。逐尺度看这个配方效应更有意思:4B 上 Opt 与 SubOpt 的差距最大(SynthAPI-Holdout 56.0 vs 51.3、AppWorld-C 45.0 vs 38.4),9B/27B 差距收窄——模型越强,对次优数据的自我修复能力越强,但从未完全抵消。这意味着配比研究对小模型/小预算团队价值最高:大厂可以暴力堆量,小团队的每个 token 预算都经不起错配。
扩大到全量数据 4 epoch(SynthAPI-Big):AppWorld Test-C 66.4(4B)/77.0(9B),Test-N 达 81.0/83.3,超最强基线 SimSAT 7.6/11.6 点;超 Nemotron-Agentic 平均 30.5 点——后者在 8 个设置中 5 个低于 zero-shot,这个反直觉现象值得展开:Nemotron 是 LLM 模拟路线的代表作,33.5 万条轨迹以短视程、简单工具响应为主,SFT 在这类数据上会把模型的行为先验锁死在「一两步调用即结束」的模式里,面对 AppWorld 这类长视程密集状态任务反而不如未训练时的通用能力——低复杂度合成数据不只是无效,是负资产。BFCL 上 SynthAPI-Big(Qwen3 版)51.1(4B)/55.6(8B),超 EnvFactory/EnvScaler 2.0-3.7 点。作者诚实指出这些对比不隔离合成方法本身(基线用 SFT+RL 小数据、SynthAPI 用纯 SFT 大数据),证明的是「scaling law 指导下的大规模合成可行且强」。另一个值得记录的细节:发现式接口训练出的模型在全部四个外部 benchmark 上直接可用,无需预知工具集——list_tools 行为本身成为了一种可迁移的「学习如何学工具」的元技能。
5.2 WorkFactory:缺陷率与 Elo 的因果链
主结果:三个尺度的 WorkPilot 全部大幅超越各自 base:
| 模型 | GDPval-AA Elo | JobBench | Workspace-Bench | OmegaUse |
|---|---|---|---|---|
| Qwen3.6-35B-A3B → WorkPilot-35B-A3B | 879 → 1565 (+686) | 28.91 → 62.35 | 47.12 → 56.53 | 7.14 → 21.18 |
| Qwen3.6-27B → WorkPilot-27B | 975 → 1612 (+637) | 37.81 → 63.05 | 49.41 → 59.18 | 10.18 → 26.61 |
| Qwen3.5-4B → WorkPilot-4B | 661 → 1375 (+714) | 4.67 → 39.87 | 26.92 → 51.30 | 1.71 → 11.77 |
WorkPilot-27B 的 1612 Elo 超过 DeepSeek-V4.1-Flash(1600)、距 GLM-5.3(1646)仅 34 分——一个 27B 学生逼近自家教师量级,这在一年前还是不可想象的蒸馏效率。4B 模型的 +714 增幅甚至超过 27B(+637),说明专业工作能力的「底子」高度可教——base 模型不是不会做,而是从未见过这类任务分布。横向看,WorkPilot-4B 在 GDPval 与 OmegaUse 上超过 Apodex-1.1-mini(1189 Elo),27B 版本超过 Qwen3.8-27B(1409)与 MiniMax-M3(1230)等更大的现成模型。成本-性能前沿上三个 WorkPilot 全部位于非支配前沿(4B 每任务约 0.012 美元、27B 约 0.396 美元),垂直领域 SFT 的性价比一览无余。
组件分析(5K 任务三条件对照)是全文最硬的证据:
| 缺陷类别 | 工件级规划 | +信息图 | +执行修复 |
|---|---|---|---|
| 推导断裂 | 24.86% | 6.86% | 3.26% |
| 跨文件不一致 | 32.82% | 25.74% | 4.84% |
| 欠规格请求 | 7.22% | 0.62% | 0.28% |
| 泄漏/捷径 | 1.92% | 3.36%(↑) | 0.84% |
| 执行可行性 | 10.80% | 6.64% | 0.48% |
| 下游 GDPval-AA Elo | 1245 | 1293 (+48) | 1326 (+33) |
表格里藏着三条重要信息。其一,机制的互补性有数据形态证据:信息图在六类缺陷上下降、但泄漏/捷径(+1.44pp)与自洽性(+1.18pp)反升——作者的归因是显式依赖清单反而诱导材料化器把「待推导」信息提前写进请求(泄漏),更密的约束网让跨陈述一致性更难维护(自洽)。而这两类恰好是执行修复砍得最狠的(泄漏 3.36%→0.84%、自洽 4.46%→1.74%),因为 probe 从消费者视角跑一遍,答案直接摆在眼前就会「太容易做对」。规划管结构、执行管落地,两者不是替代而是分层。其二,缺陷下降与 Elo 上升逐级对应(累计 +81 分),把「环境质量→监督质量→学生表现」的因果链补全——这是整个「环境工程」主张能立住的锚点。其三,修复的成本效率极高:69.6% 任务零修复直接通过、20.2% 一轮、7.7% 两轮、仅 2.5% 触顶三轮(其中 0.48% 最终被丢弃)——每任务构造总成本约 1165 万 token(其中信息规划 474 万、材料合成 328 万、执行修复 364 万),修复是最便宜的环节却拿下最大的缺陷降幅,性价比远超「一开始就造得更好」的朴素尝试。
缩放行为:Elo 随任务数增长但收益递减且模型相关——35B-A3B 首 5K 任务 +447 分,75K→110K 仅 +13 分;27B 与 4B 在 30K 已分别拿到 94%/88% 的最终增益。执行长度先升后降(24.87 → 162.88@2K → 85.90@110K 轮):小数据阶段模型先学会「多做」(长探索、多工具调用、不怕绕路),大数据阶段学会「做对且省」,触顶 250 轮的比例从 21.9% 降至 2.7%。
这条「先扩张后收缩」曲线是本次精读最意外的行为学发现——它说明执行长度不是能力标签而是策略参数,模型随数据量增长经历从「勤奋」到「熟练」的相变。对下游使用者的提示是:如果你想要一个「多跑几步再放弃」的耐性模型,小数据 checkpoint 反而合适;追求效率则等足量数据。跨 benchmark 的截面数据佐证了这个解读:最终 WorkPilot 在全部四个评测上的执行长度仍然高于 base(GDPval 85.9 vs 24.9 轮),训练教会它的是「维持更长工作流」的能力,压缩发生在冗余而非必要步骤上。
工具可靠性同步改善:代码执行失败率 16.0%→6.3%、web 搜索失败 22.4%@2K→10.4%,但 web 抓取失败率始终卡在 40%-48%——后者多半是环境固有问题(站点不可达、反爬),提示工具失败率要区分「模型可改进」与「环境不可改进」两种成分。换教师实验显示同一任务集 GLM-5.3 轨迹训出的学生 1483 Elo vs DeepSeek-V4-Flash 的 1248——环境是必要条件,教师质量是放大器;行为学上 GLM 教师本来就更「啰嗦」(60.7 轮 vs 38.0 轮),学生忠实继承了这一风格(99.8 轮 vs 53.8 轮),监督数据连「节奏感」一起传了下去。
5.3 Gym-Anything-RT:速度是第一瓶颈
最高难度完整交互的 pass rate(live 设定,100 实时任务 + 100 非实时对照):
| 模型 | 实时 | 非实时 | 落差 |
|---|---|---|---|
| GPT-6 Astra (xHigh) | 9.0% | 66.0% | 57 点 |
| GPT-6 Astra (Low) | 8.0% | 58.0% | 50 点 |
| Claude Opus 5.5 (xHigh) | 5.0% | 57.0% | 52 点 |
| GPT-6 Luna (xHigh) | 1.0% | 17.0% | 16 点 |
| Qwen3.8-27B | 1.0% | 2.0% | — |
| Qwen3.5-9B | 0.0% | 1.0% | — |
先看表中一个容易被忽略的结构性信息:两个开源模型实时与非实时都很低(1% vs 2%、0% vs 1%),说明它们的失败「不特定于实时」——能力差距是全面的;而三个前沿模型的落差都在 50 点以上,失败「特定于实时」——能力在、速度不在。这个区分本身就是对照设计的回报:如果没有非实时版,你只会看到「所有模型都很差」,分不出「差在哪」。
三个归因实验干净利落。减速梯度(Astra xHigh 同 100 任务):1× 9% → 4× 17% → 16× 48% → 64× 57% → paused 75%。任务没变、只有思考时间变长,分数单调爬升到 8 倍——速度是一线模型实时失败的主因。更细的观察:常速下 Low 与 xHigh 推理努力几乎无差(8% vs 9%),因为更多推理 = 更多延迟 = 自我抵消;环境慢下来后 xHigh 反超(64× 时 57% vs 42%)——推理努力的价值被环境速度门控。这条曲线的形态本身有信息量:从 1× 到 16× 近似线性爬升(9%→48%),16× 到 64× 趋缓(48%→57%),64× 到 paused 还剩 18 点跳升——最后这段「减速买不回来的差距」说明存在一类任务,只要环境以任何速度持续演化,慢周期模型就难以胜任(需要连续对准、持续追踪类的操作),这类任务要的不是更多时间而是不同架构。且 64× 减速仍比 paused 低 18 点,印证了这一分层。
写代码下沉:允许在沙箱跑代码后,Astra xHigh 实时 9.0% → 31.0%(×3.4),非实时仅 66% → 74%(+8 点)。轨迹检查发现它写图像处理脚本——旋转键盘任务里用模板匹配定位移动按键并在 200 毫秒内点击、齿轮保险箱任务里追踪齿轮标记并预判离合释放时机——把「感知-行动实时循环」下沉到代码,模型只推理「代码该做什么」。增益随模型能力增长(Astra xHigh +22 点 > Astra Low +6 点 > Luna +4 点),说明这条补偿路径本身需要很强的编码与推理底子,是强者的专利而非通用补丁。但 31% 仍远低于 paused 75%,论文点出失效边界:当代价是「无法可靠预先提取的环境信息」时——突发视觉变化、非结构化动态场景——脚本无能为力。效率对比:人类作者首次见这些游戏,20 任务抽样 45% 通过率、平均 2.2 分钟;Astra xHigh 9.0%、7.2 分钟、每次 4.50 美元——五倍通过率差距、三倍时间差距,Claude Opus 5.5 更是 15.8 分钟 6.40 美元只换 5% 通过率。人机差距在回合制任务上已大幅收窄,在实时域却仍有一个数量级的鸿沟。
附带发现同样有价值:paused 对「需要时序推理的非实时任务」也有提升(Luna 20.4%→31.4%,p<0.001),对不需要时序推理的无显著增益(45.2%→52.7%,p=0.443)——时序推理是独立于速度的第二瓶颈,模型对「变化中的场景」的推理本身就不行,哪怕场景已经定格成截图序列;给界面规则书也能提分(11.3%→16.2%),界面探索是第三瓶颈——模型能用它学不会自己探索到的知识,这个不对称本身就是训练数据缺口的证据;Luna 在实时任务上从难度 1 到 5 的每个难度都比非实时版低 14-27 点,说明实时落差贯穿全难度段而非只发生在最难处;能力需求叠加时 pass rate 单调下降(Luna 实时 1 项能力 37.0% → 4 项 7.2%,paused 下同样降),且 paused 也救不全——能力组合是非线性放大的难点。
六、知识反推
从三篇的结果倒推,可以提炼出几条正在成型的领域规律。这部分是「从数据到信念」的推理,读者可自行检验链条是否成立。
规律一:环境多样性的价值随预算超线性增长,同质任务数量的价值亚线性。
SynthAPI 的天花板函数 U(A,S,D) 只吃多样性参数、不吃 T,且交叉现象(低预算 A=8 优、高预算 A=64 优)说明存在「配方迁移」——今天的最优配方在明天更大预算下是次优的。更准确地说,规律刻画的是两种数据的边际回报曲线形状不同:新增同质任务在早期回报高(学会基本操作模式)但迅速饱和,新增工具/数据库多样性早期回报平缓但持续抬升天花板。两者在某个预算点交叉,交叉点之后纯堆任务就是浪费。
这暗示 Agent 数据合成与预训练数据一样存在「compute-optimal 配比」问题:不研究配比的规模化是在浪费算力。WorkFactory 的递减收益(首 5K +447 分、75K→110K +13 分)从另一个尺度印证:当环境质量恒定时,数量红利耗尽得很快——质量与多样性才是长尾供给。两篇论文一个从组成维度、一个从质量维度,共同否定了「合成数据管线只需要无限产任务」的朴素信念。
规律二:监督信号的上限由环境决定,不由教师决定。
WorkFactory 的因果链(缺陷↓ → Elo↑)和教师对比实验(同任务集不同教师差 235 Elo)共同说明:教师再强,在信息断裂的环境里也只能产出带噪示范;环境修复 33 分的 Elo 增益与换更强教师的增益同量级。「把环境修对」是被普遍低估的杠杆——社区过去两年疯狂卷教师(更强的模型、拒绝采样、过程奖励),WorkFactory 证明修环境这一「前置工序」的边际回报同样丰厚。
SynthAPI 侧写印证:Nemotron 的 335K 轨迹教师数据在复杂 benchmark 上低于 zero-shot,短视程数据把模型带偏了。合起来读:教师决定了「可达上限的利用率」,环境决定了「上限本身」——上限低时换教师只是徒劳。这个规律对蒸馏管线的指导意义是排程式的:先修环境缺陷率,再上更强教师,顺序反了就是双重浪费。
规律三:推理努力的回报被环境时间结构门控。
Gym-Anything-RT 的 8% vs 9%(实时 Low vs xHigh)与 42% vs 57%(64× 减速 Low vs xHigh)是年度级别的反直觉数据点:在环境不等待的场合,「想得更多」直接等于「动得更晚」,认知优势被延迟成本吃掉。这为「快慢思考」的调度研究提供了第一批受控证据——推理预算应该与环境的时钟频率联合优化,而非单方面最大化。
配套发现「写代码绕过实时感知」则揭示了一条架构路线:让模型生成感知控制器、自身退居规划层,实时性约束从模型转移到代码。而「64× 减速仍差 paused 18 点」进一步提示存在第三档任务——任何持续演化都不可容忍——那需要的可能是异步推理、状态预测或全新的时间感知架构,不是更快的模型或更聪明的代码。
方法论反推:三组作者不约而同采用「特权信息换可解性保证」模式——SynthAPI 的 oracle 用整个数据库对象直接访问特权标识符、WorkFactory 的 probe 以 solver 视角暴露信息断点、Gym-Anything-RT 的 oracle solution 用程序内部状态执行必解轨迹——这是合成环境信用问题的当前最优解:环境的每个任务先被证明可做,模型失败才可归因于模型。
同样普遍的是「生成者-审计者分权」制度:SynthAPI 用验证器过滤任务、WorkFactory 用独立 probe 诊断、Gym-Anything-RT 用无修改权的 audit agent 专门猎捕实时捷径(64 个游戏重造、23 个被修订去刹车/去周期运动)。用制度设计对冲 LLM 生成的不可靠性,比寄望于生成模型本身更可靠。
另外三篇都展示了「对照优于规模」的实验审美:SynthAPI 的同预算配方对、WorkFactory 的三条件组件分析、Gym-Anything-RT 的时钟梯度,真正有信息量的不是绝对分数而是受控差分。在人人比拼 benchmark 分数的当下,这种「为归因而设计实验」的品味是值得同行学习的稀缺品。
七、通用灵感
最后把三篇的方法论内核抽象成可迁移的思维工具。这些工具不限于 AI 研究,对内容、管理、产品、教育场景同样适用。
灵感一:把「配比」当作与「总量」独立的一级变量。
SynthAPI 的核心操作是给生成过程装上正交旋钮(A/T/S/D),使「多少」与「什么结构」可分别操纵,进而发现总预算下的最优配比随规模迁移。这个思维适用于任何资源分配场景:内容运营的选题多样性 vs 单选题深度、投资组合的资产类别数 vs 单类持仓、课程设计的知识点广度 vs 单点练习量——都值得问一句「当预算翻十倍时,今天的配比还是最优吗」。多数系统从未测量过自己的 U(A,S,D),规模化的第一步不是加资源,而是重新分配结构。
灵感二:为复杂系统画「信息支持图」,显式区分前提与待推导量。
WorkFactory 的通用教训是:复杂产出的失败多半不是能力不足,而是前提链断裂——某条关键信息缺失、或两处来源数值打架。把「每个结论依赖哪些输入、每个输入住在哪里、哪些该给、哪些该自己算」画成显式图,能把隐性的质量责任变成可检查的结构约束。
写技术文档、设计考题、搭建数据分析 pipeline、甚至管理工作交办,都能用这个「反向规划 + 载体绑定」的框架消灭「缺一条运费条款」式的返工。配套原则是「工作保持修复」:修补缺陷时先声明不可替代的实质工作,防止修复行为本身把任务价值掏空——文档评审中「帮人把结论写了」和教学辅导中「帮学生把题解了」都是越界修复的日常例子。
灵感三:给评测装「时钟」,把混淆变量变成可控维度。
Gym-Anything-RT 最可迁移的设计是让每个测试对象成为自己的对照——同一任务最小改动出对照版本、同一维度做出梯度(4×/16×/64× 减速)。任何归因困难的场景都可套用:产品留存下滑,是性能慢还是功能弱?做一个「功能冻结只提性能」的对照版本即可分离;学生考试失利,是知识缺还是速度慢?不限时重测一次便知。
核心口诀:当你无法解释失败时,先造一个只差一个变量的孪生场景。 归因的精度不取决于分析的深度,取决于对照的设计。
回到 AI 圈,这个思路正好对上当下最热的能力之争:某模型在某某 benchmark 超过人类——它是真超过了,还是 benchmark 恰好等它?Gym-Anything-RT 给出了一个示范性的质检动作:把环境的等待关系打开看一下,分数可能就从 66 掉到 9。未来每个号称「超越人类」的结果,或许都该附带一张「时钟设定说明」。
灵感四:用「特权验证者」给生成内容兜底,再用「分权审计者」防它作弊。
三篇共用的生成器-验证器-审计者三角,是当下 AI 辅助生产任何东西(代码、数据、文档)的可靠架构:生成者拿不到审计权、审计者拿不到修改权、验证者只认执行结果不认口头声明(Gym-Anything-RT 的 audit 明确「忽略注释与书面声明,只认截图与运行证据」)。人和 AI 协作的信任问题,答案不在更强模型,在这种制度化的分权。
顺带的组织启示:审计者的产出必须能回流到生成者的修订循环(audit 返回问题清单 → creator 修复 → 新 audit 复检),且要给修复设预算上限(WorkFactory 三轮即弃、Gym-Anything-RT 循环至 PASS)——无上限的修复循环是另一种形式的资源黑洞。
灵感五:当反应速度成为瓶颈时,把「感知-行动循环」下沉为代码。
Astra 的 3.4 倍提升提示了一条通用架构原则:慢速的智能体不必更快地思考,可以生成快速的代理。人机系统设计里到处是同构机会——交易系统把判断写成规则引擎、运维把诊断写成自动脚本、编辑把排版检查写成 lint。慢思考负责「生成快规则」,快规则负责「高频执行」,两层各司其职。
判别标准来自论文的反例:当代价是「无法可靠预先提取的环境信息」时(突发视觉变化、非结构化输入),下沉失效,此时需要的才是真正的快速模型。换言之,先问「这个实时任务的信息能否预先参数化」,能则写代码,不能则换架构——这是所有实时系统的第一个分岔口。另一个值得记住的细节是增益的能力依赖:写脚本补偿实时短板是 Astra 级模型的专利(+22 点),弱模型连这条路都走不通(Luna 仅 +4 点)——架构技巧无法替代底层能力。
结语
三篇论文合起来给「Agent 环境合成」这个方向立了三根标尺:SynthAPI 证明环境组成是可建模、可外推的科学量;WorkFactory 证明环境质量是可诊断、可修复的工程量;Gym-Anything-RT 证明环境的时间结构是被所有前作忽略、但一测就见分晓的评价量。
当 Agent 训练从「找数据」进入「造数据」阶段,造什么、怎么造、造得对不对、造得够不够快——这四个问题的答案正在分别成形。而且三篇的机构构成本身就是信号:纯企业(Apple)贡献了最体系化的 scaling 科学,企业+高校联合队贡献了最重的工程系统,纯高校双人组贡献了最锋利的测量范式——这个分工格局大概会延续到下一轮。
下一个值得关注的方向已经写在三篇的限制章节里:SynthAPI 的 law 尚未跨管线验证(作者自承只在单一数据管线上拟合,SimSAT 上的初步复现是好的开始但远非定论)、WorkFactory 还没上 RL(环境 verifier 与 probe 基础设施都已就位,RLVR 的边际增益是显而易见的下一步实验)、Gym-Anything-RT 还只是评测未曾训练(程序化生成器天然可做 RLVR 环境,作者也明说这是 future work)。
把它们接起来——用组成科学定配比、用信息工程保质量、把实时维度纳入训练——就是 2027 年的作业。谁先做完这三道题,谁的 Agent 就先学会在会动的世界里工作。