论文一链接:ScienceCUA: Resource-to-Skill Construction and Execution-Guided Skill Evolution for Scientific Computer Use Agents 论文二链接:Learning by Doing: Autonomously Compiling and Curating Agent Skills from Verified Traces 发表时间:2026年11月 机构:ScienceCUA——DeepAutonomy Technology(第一单位)+ 北京大学 + 清华大学智能产业研究院 + 香港理工大学 + 新加坡管理大学,企业主导的多高校合作;Zep Agent Skills——Zep AI(六人,纯企业,Agent 记忆公司,部分作者即 Zep 时序知识图谱论文作者) 领域标签:cs.AI,Agent 技能系统 / 程序性记忆 / 计算机使用 Agent

〇、导读:为什么把这两篇放在一起读

Agent 领域过去两年的主线是让模型更强,但生产环境里的真问题往往是:模型每次运行都从同一组权重、同一个系统提示出发,上次跑通的流程这次还要从零再趟一遍。Skills(技能)是针对这个问题的答案之一——把可复用的过程性知识打包成模型可以在推理时加载的资产。Anthropic 的 Agent Skills 开放格式(SKILL.md + 渐进披露)让技能有了统一的打包标准,但该格式只定义了怎么装、怎么读,不定义技能从哪里来、如何验证、如何更新——绝大多数部署里,每个技能仍然由人手写。

这两篇论文恰好覆盖了技能积累的两个源头:

  • 文档到技能(ScienceCUA):科学软件的操作知识早就写在人类作者写的手册里(PDF/HTML),问题是文档巨大、叙事化、版本错配,模型用不动。ScienceCUA 把 12.2M 字符的 GRASS GIS 文档等六套文档蒸馏成 Skill(任务级程序性知识)与 Reference(跨任务查询知识)双资源,并用执行反馈驱动技能自进化。
  • 轨迹到技能(Zep Agent Skills):生产 Agent 每天产生大量执行轨迹,其中被外部系统验证过的成功轨迹是最高质量的过程性知识来源。Zep 把这些轨迹编译成带证据引用、版本治理、威胁控制的技能服务,构成从捕获到服务的完整生产闭环。

两条路线表面不同,深层的共同问题只有一个:技能如何可信地积累与更新。人写的文档会过时(Celestia 1.6.1 手册指引的菜单在 1.7.0 里根本不存在),自动编译的技能会带毒(Skill-Inject 攻击对前沿模型成功率高达 80%)。技能库不是一个静态文件集合,而是一个需要证据链、验证协议、版本治理的知识管理系统。两篇论文用完全不同的方式回答了同一个问题,这正是合并精读的价值。


一、论文背景

1.1 计算机使用 Agent 与科学软件之痛(ScienceCUA 侧)

计算机使用 Agent(CUA)指能通过图形界面和命令行操作真实软件完成多步任务的基础模型 Agent。OSWorld、WebArena、Windows Agent Arena 等基准聚焦通用网页/办公/桌面任务,科学软件受关注很少。而科学软件恰恰是最需要外部知识补丁的场景:操作 GRASS GIS 或 Lean 4 需要应用专属的工作流、命令、语法与参数约束,这些知识在通用模型的预训练分布里覆盖很薄。

ScienceBoard 基准(ICLR 2026)在六个科学应用上评测 CUA。ScienceCUA 团队复现时发现该基准本身有大量噪声——169 个原始任务中 38 个需要修订或删除(指令歧义 15 个、任务与答案错误 12 个、评测器偏差 10 个、1 个因需要外部账号直接删除),于是先做了审计修复版 ScienceBoard-Verified。

关键动机数据:每个应用都配有人写的官方手册,但把文档直接塞进模型上下文,四个模型上成功率只提升 +1.53~+3.42pp,执行时间反而暴涨 49.2%~56.0%。原因很直观:GRASS GIS 文档全文 12,232,449 字符,而一个具体任务可能只需要其中两三行;Celestia 手册第三页在讲"我们中的许多人曾在黑夜中仰望星空……“这类人类向叙事。任务相关信息在人类向文档中极度稀疏,直接注入等于让模型在干草垛里找针,还要为干草垛付每次请求的上下文税。

1.2 生产 Agent 的程序性记忆缺口(Zep 侧)

CoALA 认知架构把 Agent 记忆分为工作记忆、语义记忆(用户/领域事实)、情景记忆(过往交互)、程序性记忆(怎么做)。生产记忆系统(含 Zep 自己的时序知识图谱)主要覆盖前两者,程序性记忆基本靠人写提示或人写技能。

三条现成路线各有硬伤:微调改权重,需要训练轮次、绑定单一模型、难审查难回滚,流程每变一次就要重训一轮;情景检索(找回旧对话转录)便宜,但转录又长又带着单实例的值,还可能携带不该给后来用户看的数据;研究系统的技能学习(Voyager、AWM、ExpeL、ACE)证明了经验可以变成可复用程序,但没有一个满足生产约束:可审计的证据链、不可静默替换、删除可传播、跨框架可用、能接入 Braintrust/LangSmith 等现有轨迹存储。

Zep 论文的威胁模型一节把这个缺口说得很锋利:技能是 Agent 会当作指令照着执行的东西(比被污染的记忆记录更危险),AgentPoison/MINJA 已证明记忆投毒可行,Skill-Inject 报告技能文件指令注入对前沿模型攻击成功率最高 80%,一项对 98,380 个公开技能的扫描发现 157 个恶意技能。一个能不经人工就准入技能的服务,必须有与威胁一一对应的自动控制。

1.3 共同背景:技能格式的标准化与空白

Anthropic 于 2025 年 12 月发布 Agent Skills 格式、2026 年 10 月捐赠给 Linux 基金会下的 AAIF,Claude Code / Claude Cowork / OpenAI Codex 等主流 Agent 宿主都以渐进披露方式加载技能。格式标准化解决了打包与互操作,但"技能如何学到、如何验证、如何版本化、如何治理"完全留白——这就是两篇论文各自填充的空间。


二、论文定位和关联工作

2.1 资源到技能(Resource-to-Skill)谱系

工作核心思想与 ScienceCUA 的关键区别
MMG2Skill(arXiv 2606.01993)把公开指南转成可编辑技能假设任务已与指南预先配对,无端到端从原始资源构造的管线
VisualSkill(arXiv 2606.18448)用文档图像辅助 GUI 元素识别与状态验证部分 HTML 文档无图像;截图界面可能与部署版本不符引入误导视觉线索
SkillFoundry(arXiv 2604.03964)从异构科学资源生成工作流关注领域能力覆盖与任务工作流,而非为单个软件包系统组织可复用知识
Resource2Skill(arXiv 2606.29538)从多模态创作资源蒸馏可执行技能面向 PPT/Blender 等创作任务,公开实现不支持 PDF 手册解析与文档级知识构造(附录 O 详述),故未作基线
ScienceCUA从原始文档端到端构造,双资源解耦 + 执行自进化无需预配对任务;Skill/Reference 分离;用执行反馈修复版本错配

2.2 轨迹到技能与技能库治理谱系

工作核心思想与 Zep 的关键区别
Voyager(arXiv 2305.16291)Minecraft 中验证过的程序存技能库,执行反馈改进研究系统,执行候选技能做验证,无治理/威胁模型
AWM(arXiv 2409.07429)从轨迹归纳可复用工作流注入提示Web 导航场景,无版本/证据/准入控制
ExpeL(arXiv 2308.10144)从成功/失败轨迹对比提炼洞察,投票维护自然语言洞察而非结构化合同,无逐字段引用
ACE(arXiv 2510.04618)生成器/反思器/策展器对上下文剧本做增量编辑Zep 沿用其"局部补丁优于全量重写"与角色分离,但增加逐字段引用、事务准入与治理
Anything2Skill / SkillRevise / SkillLift编译外部知识为技能合同 / 用轨迹修订技能 / 用稀疏评估学习评分标准均以执行候选技能为核心;Zep 因生产可行性明确不执行候选技能
WikiSkill / Procedural Graphs跨多次运行整合知识,保留被拒提案记录Zep 采纳其"提案结果历史"设计,但补充完整生命周期治理
Zep Agent Skills验证轨迹→引用合同→事务准入→服务验证分级、逐字段引用、威胁控制、Wilson 信任值是生产级新增

2.3 两篇在谱系中的定位结论

ScienceCUA 站在"资源到技能"与"自进化技能"两条谱系的交点:前者给它初始库,后者修复初始库的固有缺陷(版本错配、覆盖错位)。Zep 站在"经验学习"谱系向生产系统工程延伸的末端:几乎所有单组件都有近邻,但验证分级+逐字段引用+事务准入+成熟度/信任值的治理整体与教师-执行者配对评测协议的严谨度超出此前技能学习论文。两篇共同的差异化主张:技能库的价值不在"有技能”,而在"技能可信地积累与更新"。


三、问题定义

3.1 ScienceCUA 的抽象

具体场景:给定软件文档 D 与部署环境中的任务集,最大化任务成功率。

深层结构:文档是人类向的(叙事、全量、面向旧版本),任务需要的是机器向的(程序性、稀疏、面向当前部署版本)。两者的错配是本质困难,且无法在构造时完全消除——因为 (1) 完全匹配部署版本的文档可能根本不存在;(2) 构造时不知道下游任务分布,覆盖面必然错位;(3) 部分任务需求超出文档覆盖(TeXstudio 任务需要 ChimeraX 测的分子角度)。

形式化:构造初始库 L0 = (S0, R0),其中 Skill s = (名称, 描述, 适用条件, 前置条件, 过程体),Reference r = (名称, 用途, 查询内容)。执行时按名称+描述路由、按需组合加载。然后在互斥于测试集的任务集 E 上,用执行反馈演化 L0 至 L_final,最大化不相交测试集 V 上的成功率。

精妙之处在于把"知识缺陷修复"从在线执行中剥离:演化发生在测试之前、在独立任务上、以独立验证为门槛,测试时库已冻结——这就把"边考边学"(评测污染)与"先学后考"(合法迁移)干净地分开了。

3.2 Zep 的抽象

具体场景:已部署 Agent 随时间产生任务尝试,部分结局可被外部系统验证。目标:当下次同类任务到来时,Agent 不必重新解决已解决过的问题。

形式化:把每次尝试记录为 Trace(有序事件 + 结局 + 验证强度),把强验证的成功 Trace 编译为结构化 Skill 合同(适用性字段与过程字段分离),经准入控制成为当前可检索版本;Skill 的使用结局反馈更新其搜索权重与信任值。约束:不训练权重、不执行技能代码、不存隐藏推理;每条主张可溯源到事件;删除源即删除效果。

与 ScienceCUA 的结构对偶很有意思:ScienceCUA 的证据是文档(人类写的、静态、可能过时),Zep 的证据是轨迹(机器产生的、动态、可能带毒)。前者的问题是被证据误导(旧菜单路径),后者的问题是证据本身不可信(注入指令、伪造成果)。类比对比如下:

维度ScienceCUAZep Agent Skills
证据源人类作者文档Agent 执行轨迹
证据可信度假设内容真实但可能过时内容可能被攻击者控制
核心风险技能指引错误路径技能携带恶意/私有内容
核心防线独立验证后才入库验证分级+引用+扫描+准入
更新信号失败轨迹对比新证据与提案结果历史

四、问题解法

4.1 ScienceCUA:两阶段框架

Stage 1:Resource-to-Skill 构造。 类比:把一本写给新员工的入职手册,蒸馏成一套"什么场景翻哪页"的操作卡。管线先把文档解析成可溯源证据库——解析器用作者标题与导航结构化文本与视觉内容并保留源位置,Agent 只做整理不重写内容;下游每个 Reference、Task、推断动作都必须锚定在证据上(文本引用必须与证据文本逐字匹配,Python 验证器把关——这是防幻觉的关键)。从证据库分出双分支:

  • Reference 分支:程序抽取并去重候选查询内容(命令表、语法约束、快捷键),Agent 审阅决定保留与分组。例如 KAlgebra 的 root(par1, par2) 语法条目。
  • Skill 分支:按"目标→轨迹→归纳"的顺序——先发现文档支持的用户目标(不依赖基准任务输入),对每个目标推断有序动作与预期观测,多条相关轨迹再归纳成一个连贯 Skill。先轨迹后归纳的顺序是为了在抽象时保留可操作细节。
  • 各阶段由独立子 Agent 承担(各有自己的工具面、提示、输出合同与预算),LLM 输出全部经 Python 确定性验证(schema、去重、引用匹配、跨对象一致性)后才进入下游。

执行时通过渐进披露:任务开始前按名称+描述路由(model-based 最多选 3 条),选中条目全文载入系统提示;原生 Agent 模式下技能注册为独立可加载资源,Agent 执行中自主选读(无数量限制)。

Stage 2:执行引导技能自进化。 类比:新手在训练任务上犯错后,不许他"记住这次怎么蒙对的",必须把可用方法写成手册,让另一个新人照着手册独立复现成功才算修复。机制要点:

  • 失败历史引导探索:第 i 次探索 τ = Execute(q; L0, F_q, H),历史含失败轨迹、截图与结局。历史改变的是探索行为,不是知识本身——后续探索仍从同一冻结初始库和同一路由集出发,避免被未验证的改动污染。
  • 失败诊断三分类:grounding 失败(界面感知/操作是主要障碍,不产候选)/ 修改既有知识(路由条目相关但有错)/ 补充新知识(真实覆盖缺口,须回到原始文档有界浏览,官方文档根内、仅随站内链接,不用搜索引擎、不用快照、不用模型知识作为证据)。诊断与候选写入在同一分析会话中先后解锁,防止先定伪目标再找理由。
  • 独立候选验证:候选 Δ 构造临时库 L̃ = L0 ⊕ Δ,在重置环境、全新会话、空历史(不给任何先前轨迹/诊断/候选理由)下重跑任务,仅凭候选知识本身过关才进入候选池 P。这是整个机制的可信度锚点:验证 Agent 若能靠翻旧轨迹记住解法,就会产生"轨迹记忆"而非"知识"。
  • 整合与回归:全部演化任务结束后按目标条目分组合并(语义去重保守分组、失败开到精确分组),多候选合并必须通过回归认证——对每个贡献任务无历史重放全部成功才算认证;预算 M_explore=3、M_submit=3、M_consolidation=3。

4.2 Zep:五段生命周期生产服务

类比:把"老师傅带徒弟"改造成带质检的工厂——徒弟(Reflector)提工艺改动,质检员(Curator)对照现行工艺卡与来料单据裁决,出厂前过扫描与准入门,出厂后的使用反馈(强验证的成败)反过来调整工艺卡的排序与信任等级。

  • 捕获:harness 把尝试记录为 Trace。关键设计是结局与验证分离:Agent 自报成功不算数,验证强度由提交者身份决定——工具/外部系统须先注册为命名空间验证者,人须有验证权限,Agent 只能提交自报级。观测平台分数经人注册映射后算外部强验证。重试继承"尝试族",编译按族计数(一败一成只算一次支持)。
  • 编译(双 LLM 角色分离):Reflector 提议五种操作(增/局部补丁/合并/报告冲突/不动),实例值替换为占位符,每条主张引用支持事件;可信代码校验结构、逐条匹配引用(能修复的仅限确定的引用位置错误,修复不能让无据主张变成有据)。Curator 对照证据与现行技能逐主张裁决,弱重写不得替换可用版本,相似技能优先补丁而非并列新增。cite-or-retain 规则决定证据消费(失败源、未验证源、被采纳变更引用的源被消费;未被引用的成功源保留供后续),提案结果历史作为不可信上下文供 Reflector 避免重复被拒改动。
  • 扫描与准入:proposal scanner 与 artifact scanner(确定性检查+模型)拦实例数据(姓名/标识符/凭据/私有 URL)与来自工具输出的指令;准入门核查验证、适用性、冲突、必需评估;结果组按事务整体准入或整体拒绝;默认 auto 模式(人工审查会拖慢每个候选),但选工具技能可强制人工。
  • 成熟度与信任:三级——provisional(单尝试族支持)/ corroborated(≥2 族)/ established(信任值达标)。信任值 = 成功率的 95% Wilson 区间下界(样本少时被压低,保守);搜索权重 = 成功率的贝叶斯后验均值(先验由支持族数 n 决定,强度 k),每次强验证试用都会更新,验证失败可把权重压到先验均值之下。单源技能的三个风险限制:更严的编译检查(不得保留源标识符、适用性限于证据工具与环境)+ provisional 起步低权重 + 后续族到达时补丁/合并升级。
  • 检索与交付:词法检索 × 搜索权重排序,适用性字段先过滤(相关性不能越权访问/冲突/退休边界);渐进披露两步——先返回描述符,Agent 选中才读全文。交付为 Agent Skills 开放格式 SKILL.md,经 MCP(SEP-2640)服务 Claude Code 与 Codex。明确不用向量检索:描述符是短的、策展过的显式文本,主题相似会带回前置条件不匹配的技能。
  • 治理:五类威胁逐一映射控制(占位符+扫描防实例泄漏;内容当数据读+扫描防注入;验证身份分级防伪造成果;命名空间+受限事件不编译防越界流动;不执行+可选人工门防危险过程);删除源 Trace 即时下线所有引用它的技能并调度修复;全程审计记录。

4.3 两篇方法的全景对照

维度ScienceCUAZep Agent Skills
知识来源软件文档(PDF/HTML)强验证成功轨迹
结构Skill(程序)+ Reference(查询)双资源Skill 合同(适用性/过程字段分离)
防幻觉逐字引用锚定证据库逐字段事件引用+可信代码匹配
入库门槛独立验证(空历史重放成功)扫描+准入门+可选评估/人工
更新机制失败诊断三分类+回归认证Reflector 提议+Curator 裁决+版本化
信任度量隐式(验证通过/不通过)Wilson 下界信任值+贝叶斯搜索权重
执行候选技能是(真实环境重放)明确否(生产不可行,评估交还应用侧)
交付形式库内路由加载开放格式+MCP,跨框架

五、评估指标与实验证据

5.1 ScienceCUA 的评估

指标体系:主指标为六应用任务成功率的非加权平均(ScienceBoard-Verified 168 任务);辅助指标含任务执行总时长、初始库构造时长、资源调用量(Skill/Reference 完成调用数);消融指标覆盖双资源贡献与自进化组件贡献。

基准:ScienceBoard-Verified(审计修复,168 任务,六科学软件:KAlgebra/Celestia/GRASS GIS/ChimeraX/Lean 4/TeXstudio)+ 108 个互斥演化任务构成 ScienceBoard-VE(共 276 任务)。选择理由:修复后的基准消除了指令歧义/答案错误/评测偏差三类噪声(这些噪声会同时压制所有方法并扭曲组间差距),演化/测试互斥设计直接检验"技能迁移"而非"任务重放"。另扩展支持原生 Agent 评测(Grok Build、Codex),关闭联网防止绕过知识限制。

RQ1 初始库效果(model-based,四模型):

模型Vanilla直接注入RAGVisualSkillSkillFoundryScienceCUA
Qwen-3.8 Max xhigh38.8242.0440.2940.3838.4445.27
GLM-5.2 Max15.8617.3919.6419.3916.7921.93
Grok-4.6 xhigh37.4740.8941.5040.4237.9344.70
GPT-5.5 xhigh51.4053.3354.7354.4953.5657.16

初始库较 Vanilla +5.76~+7.23pp,而直接注入仅 +1.53~+3.42pp——这个对照直接证明"信息密度"假说:同样的信息源,组织形态决定了可用性。效率上任务执行时间比直接注入少 21.1~28.9%,初始库构造时间 4h23m,比 VisualSkill 少 62.2%、比 SkillFoundry 少 34.6%。原生 Agent:Grok Build 46.29→55.41(+9.12pp)、Codex 54.09→59.82(+5.73pp),同样超过两个基线。

RQ2 双资源互补性(Grok-4.6):skill-only 40.09 / reference-only 40.62 / 双资源 44.70(原生 Grok Build 为 49.89/51.14/55.41)。单独任一都超 Vanilla,双资源最优。附录 J 的 KAlgebra C-05 三方对照给出机制解释:reference-only 花光预算在找脚本加载入口,skill-only 加载了脚本但表达式停在符号形态(不认识标量积函数的正确写法),双资源下 Agent 用 Skill 的加载流程 + Reference 的函数目录(root(3,2) 与小写 scalarproduct)完成计算,再用执行反馈修正向量结果。这组对照说明两类知识不可互替——程序性知识与查询性知识阻塞在不同的执行环节上。

RQ3 自进化效果(关键表,测试集与演化集互斥):

变体Grok-4.6GPT-5.5
初始库44.7057.16
−知识补充51.5063.05
−失败历史48.2060.42
Full ScienceCUA54.5965.81
Trace2Skill46.4460.46
SkillCAT53.0263.74

总增益 Grok +17.12pp / GPT +14.41pp(相对 Vanilla);Full 超过 Trace2Skill 与 SkillCAT 两个自进化基线。消融揭示机制归因的分异性:KAlgebra/Celestia 对失败历史敏感(去掉后 KAlgebra 双模型都掉 9.68pp,Celestia 掉 9.09/6.06pp——版本错配型缺陷靠历史避开死路),GRASS GIS 对知识补充敏感(去掉掉 14.71/5.89pp——覆盖缺口型缺陷靠加模块级 Reference 填补);Lean 4(需要专门数学领域引理)与 TeXstudio(需要跨软件信息)收益有限,附录 N 对照任务需求与文档范围诚实解释了为什么。前沿模型补充实验:GPT-6 Astra 75.19→77.30(仅 +2.11pp),印证"基座越强外部知识增益越小"的边界。

5.2 Zep 的评估

指标体系:主指标 pass rate(通过基准检查器的剧集占比,空响应/上下文溢出/步数耗尽均计失败);可靠性指标 pass4(τ³ 四试全过任务数)与场景通过率(AppWorld 三变体全过);效率指标每通过剧集 token 与时延;归因指标按教师成败分层与按"是否有引用本任务 Trace 的技能"分层。

协议:教师-执行者五段(教→编译→冻结快照 SHA-256→双臂执行→配对比较)。执行者与无技能臂同工具同任务,技能臂多三样:技能内容、更长的系统提示(索引)、read_skill 工具——论文诚实声明未分离这三者(7.4 与损失分析部分补偿了这一点)。统计:τ³ 配对 bootstrap 10 万次 + Holm 校正,AppWorld 场景 bootstrap + Bonferroni,EnterpriseOps-Gym 任务 bootstrap。泄漏控制:执行者无网络、教师禁 shell/文件/网、检查 SQL 与参考解隐藏、扫描技能中的检查器 SQL/数据库 ID/隐藏值(未发现)。教师 Claude Opus 5.5 max,执行者 GPT-6 Luna / Claude Haiku 5.5 / DeepSeek V4.1 Flash 各推理力度。

核心结果(26/26 cells 正增益):

基准增益区间典型 cell
τ³-bench banking(97 任务×4 试)+5.2~+15.5ppHaiku medium 21.1→36.6%(+15.5,Holm p=0.0002);池化 +8.6pp
AppWorld(147 任务×3 试,教师已饱和 97.3%)+4.5~+18.8ppGPT-6 Luna low 68.5→87.3%(+18.8)
EnterpriseOps-Gym(625 任务×3 试)+8.4~+11.4pp九区间全为正,且随推理力度变化很小

可靠性:τ³ pass4 在 7/8 cells 提升;AppWorld 场景通过率 9/9 提升(GPT-6 Luna low 50.3→72.8%)。效率:τ³ 长剧集每通过剧集 token 全部 8 cells 下降 7.0~44.6%;AppWorld 短剧集因全量索引(62 技能约 2300 提示 token/次调用)7/9 cells 上升(论文指出这是 harness 设计的成本,生产用检索无此负担)。

归因分层(最有说服力的实验设计):τ³ 上教师 4/4 通过的任务 +17.0pp(40 个)vs 教师 0/4 的 +0.6pp(30 个,区间含 0);AppWorld 上有引用自身 Trace 技能的任务 +5.9~+22.2pp vs 同场景姊妹任务 −1.4~+2.1pp。这组对照把"增益来自技能内容"与"增益来自提示变长/多一个工具"区分开——若是后者,两分层应无差别。这直接回应了协议未分离三因素的缺陷。

ALFWorld(与连续微调对比):Qwen3-8B 自教自学(教师=执行者=同一 8B 模型,34 局/类型×6 类型训练局编译 22 技能),在 valid_unseen(未见房间,无任何技能来自评分局)评测:弱基 42.8→75.4%(+32.6pp,消除 57% 失败),RSD(连续微调)为 +13.7pp/37%;强基 74.6→82.8%(+8.2pp),绝对值超 RSD 的 76.6%(8B)/79.6%(14B)。分解:heat 类 4%→65%、clean 38%→90%、cool 29%→63%,two-objects 类不升(41→37%)——增益精确落在基座不会的流程类型上,且技能来自其他房间,这是最干净的跨实例程序迁移证据。上下文基线 Harness@Inf 仅 +2.5pp,说明朴素上下文注入远逊于编译后的结构化技能。

5.3 指标如何支撑各自主张

ScienceCUA 的核心主张是"文档可以变成可执行知识且能自进化修复"。支撑链:四模型初始库全面超基线(组织形态有效)→ 双资源消融(解耦必要)→ 演化/测试互斥下的自进化增益(迁移有效而非记忆)→ 组件消融的分异归因(两种机制各治一类缺陷)。Zep 的核心主张是"验证轨迹编译的技能在生产约束下仍有效"。支撑链:26/26 正增益+多重校正(有效性)→ 教师分层与姊妹任务对照(增益来自内容)→ pass4/场景率(可靠性而非运气)→ ALFWorld 零训练超微调(范式性价比)。两篇各自的诚实边界也都写了:ScienceCUA 承认强基座增益萎缩、Lean/TeXstudio 无解;Zep 承认主实验是重放设计不测新任务迁移、教师上限封顶增益、AppWorld 饱和。


六、效果优势的根源解释

6.1 根源机制与证据链

ScienceCUA 因果链一:信息密度(为什么初始库胜过直接注入/RAG)。

  • 直接注入的机制障碍:12.2M 字符文档 vs 数行相关信息,上下文窗口被占满(GRASS GIS 只能注入截断版 367K 字符)、任务相关证据被叙事稀释、每步请求都重复付费;RAG 按 chunk 检索能缓解但无任务结构——chunk 是文档结构单位,不是操作单位。【论文实验已支持:直接注入四模型仅 +1.53~+3.42pp 且时间暴涨;RAG 增益不稳定(GLM 上 +3.78pp 但 Grok 上被 ScienceCUA 超过 3.2pp)】
  • ScienceCUA 的本质改变:把"检索文档片段"换成"路由知识条目"。Skill 的过程体是围绕目标组织的完整操作序列,Reference 是去重后的查询目录——两者都是任务形态的知识单元,路由按名称+描述匹配后全文加载,信息密度从千分之一量级提升到接近满格。【论文实验已支持:初始库 +5.76~+7.23pp,执行时间反降 21.1~28.9%】
  • 双资源解耦的必要性:程序性知识(怎么走通流程)与查询性知识(语法/参数长什么样)有不同的复用半径——前者绑定目标、后者跨任务共享;混存要么迫使每个任务加载无关语法要么丢失语法细节。C-05 三方对照展示了两类知识阻塞在不同环节。【论文实验已支持:消融表与附录 J 案例双证据】

ScienceCUA 因果链二:证据锚定的独立验证(为什么自进化可信且可迁移)。

  • 版本错配的本质:文档描述的是"曾经的界面",部署环境是"现在的界面",这类缺陷不可能在构造期发现(构造期不执行任务)。旧知识不仅无用而且有害——Celestia A-05 案例中 Agent 按旧手册在 Display/View/Guides 菜单里耗尽了动作预算,而正确的 O 下拉框从第一步就可见。【论文实验已支持:附录 M 完整五步轨迹】
  • 失败历史引导的机制:历史让后续探索"不再走已证死路",同时明确提示"当 GUI 证据与初始技能冲突时不要机械遵循技能"——这是对过时知识去权威化。去掉它 KAlgebra/Celestia 大幅退化。【论文实验已支持:−失败历史消融 9.68pp/9.09pp】
  • 独立验证的机制:空历史重放切断了"靠记住这次轨迹成功"的捷径,候选必须作为可传递知识独立复现成功。这是整个演化不退化为评测污染的关键闸门——K 案例 B-14 中前两个候选(sqrt 写法、幂形式)都在独立验证下暴露"表达式被接受但曲面仍不完整",第三个探索发现三变量映射后,修订技能在无历史重放中复现了完整双曲面,并迁移到三个此前失败的测试任务(A-03/C-14/C-17)。【论文实验已支持:附录 K 全程+迁移表】
  • 【阅读者推测】“每任务至多贡献一个验证候选+全任务结束后统一整合+合并须回归认证"的保守设计,虽然牺牲了在线演化速度,但避免了未回归的合并破坏已验证能力——这在论文中没有单独消融(没有"边演化边安装"对照),属机制推测,依据是多候选合并会改变"逐个验证过"的内容这一逻辑。

Zep 因果链一:为什么增益来自技能内容而非提示变化。

  • 增益的候选解释有三个:技能内容、系统提示变长、多了 read_skill 工具。后两者对所有任务恒定,前者只在"教师解出且有技能"的任务上存在。分层结果(+17.0 vs +0.6;+5.922.2 vs −1.4+2.1)与恒定解释矛盾、与内容解释一致。【论文实验已支持】
  • 技能传递了什么:教师验证过的步骤与信息源。失败类型分析佐证——技能臂在全部 9 个 EnterpriseOps-Gym cell 里"错误终态"与"缺信息停止"的剧集都更少。【论文实验已支持】
  • 教师上限封顶增益的机制:编译只用强验证成功,教师从未解出的任务没有自己的技能,τ³ 上这类任务增益 +0.6pp(含 0)。【论文实验已支持】

Zep 因果链二:为什么不训练权重也能追上微调。

  • ALFWorld 弱基实验中 8B 模型不知道 heat/clean/cool 流程,技能把这三类流程的正确步骤注入上下文,失败消除 57% vs RSD 的 37%。机制:微调把流程写进权重(对训练分布内的模式泛化好但需多轮训练),技能把流程放进上下文(零训练、即改即生效、跨模型可用——Zep 评测里同一套技能对三个不同厂商的执行者都有效)。【论文实验已支持】
  • 【阅读者推测】弱基大幅增益、强基(typed 示例下 74.6%)仅 +8.2pp 的落差暗示:当上下文里已有优质示范时技能的边际价值收缩——技能与 few-shot 示例在功能上有重叠,此消彼长。论文未直接做技能×示例的交叉消融,此为推测。
  • 【阅读者推测】Zep 选择词法检索而非向量检索的理由(描述符短且显式、主题相似会带回前置不匹配项)在论文中只有论证无对照实验,属合理但未验证的设计判断。

共同根源:知识形态与验证协议的匹配。 两篇的深层共识是:外部知识的价值 = 内容正确性 × 组织形态 × 可信度协议。ScienceCUA 用逐字引用锚定构造、用独立验证锚定更新;Zep 用事件引用锚定编译、用验证分级+扫描+事务锚定准入。任何一环缺失,知识资产都会退化为提示噪声甚至攻击面。

6.2 相关工作检索与对照

以下为外部检索核验结果(检索时间 2026-11-04,检索工具 WebSearch,关键词覆盖技能学习/记忆投毒/技能评测/基准):

研究(可核验链接)相似尝试相关结论与本文的差异与适用边界对根源解释的影响
Voyager(arXiv:2305.16291)执行反馈+自验证后技能入库可执行代码技能库带来终身学习增益(科技树快 15.3 倍)Minecraft 沙箱、执行候选技能可行;Zep 明确指出这在生产(需沙箱+应用工具凭据)不可行支持"验证后入库"机制;限定其在生产环境的适用边界
AWM(arXiv:2409.07429)从轨迹归纳工作流注入提示WebArena 相对提升 51.1%;后续复现发现在更新模型上增益缩水甚至消失(ReasoningBank 复测 +3.6 到 −0.9)Web 导航、无版本/证据治理;其"新模型上增益缩水"与 ScienceCUA 的 GPT-6 Astra 边界发现一致支持"轨迹→程序性知识"机制;同时限定"基座越强增益越小"的适用条件
ExpeL(arXiv:2308.10144)成败轨迹对比提炼洞察+投票维护学到的洞察优于人写洞察;加反思反而有害(幻觉混入提炼)自然语言洞察无逐字段引用;其"失败轨迹是必要信号"与 ScienceCUA 失败历史引导一致支持"失败对比是学习信号”;支持 Zep 不信任纯自省的证据立场
SkillsBench(arXiv:2602.12670)86 任务×三条件(无/人写/自生成技能)配对评测人写技能 +16.2pp 但 16/84 任务为负;自生成技能平均零增益;聚焦 2-3 模块的技能优于全量文档每任务人工配技能,与 Zep 编译路线不可比(Zep 论文明确说明);其"聚焦优于全量"与 ScienceCUA 按需加载 vs 全文注入的对照结论一致强力支持"信息密度"根源解释;“自生成零增益"提示编译质量是关键变量,补充说明 Zep/Trace2Skill 类系统何以存在
Trace2Skill(arXiv:2603.25158)并行子 Agent 分析轨迹池→归纳合并成技能目录35B 轨迹演化出的技能提升 122B Agent 最多 57.65pp;整体并行合并优于在线顺序编辑ScienceCUA 的自进化基线(46.44/60.46);其"跨模型迁移"与 Zep 跨厂商执行者有效一致支持"轨迹蒸馏的技能可跨模型迁移”;其作为 ScienceCUA 基线被超越,支持 ScienceCUA 失败历史+源锚定追加的增量价值
τ-bench(arXiv:2406.12045)工具-用户交互基准,pass^k 度量一致性强模型 pass^k 随 k 陡降(gpt-4o pass^8<25%)Zep 用 τ³ 的 pass4 证技能提升可靠性,呼应 τ-bench"一致性是独立维度"的原始发现支持"技能提升可靠性而非单次运气"的解读
Agent Skills 开放格式(skill.md / Anthropic 工程博客)SKILL.md+渐进披露三层设计官方定位"渐进披露使上下文可绑定知识无界"只定义打包不定义学习/验证/治理——正是两篇论文填充的空白支持"按需加载"作为共同设计基石;佐证两篇的工程时机
MMG2Skill / VisualSkill / SkillFoundry / Anything2Skill / SkillRevise / WikiSkill 等(arXiv 2606.01993 / 2606.18448 / 2604.03964 / 2606.09316 / 2606.01139 / 2608.27454)各自的资源→技能或技能修订管线分别报告各自场景增益均为两篇论文的 Related Work 直接近邻,见于正文对比均为"方法相似"级支持;结论相近的独立验证以 Voyager/AWM/ExpeL/SkillsBench 为主

检索中未发现公开发表的、对"Skill/Reference 双资源解耦"这一具体设计做独立对照的第三方工作(在本次检索范围内未发现,ScienceCUA 自身的消融是当前唯一直接证据)。也未发现直接复现 Zep 教师分层归因结果的独立研究(Zep 论文自身为唯一来源,其结论应视为单一研究证据)。

6.3 综合判断与未决问题

多项研究共同支持的机制:(1) 验证后入库——Voyager(执行自验证)、ScienceCUA(独立重放验证)、Zep(外部验证分级)、SkillsBench(确定性验证器配对评测)从四个不同角度一致;(2) 按需加载优于全量注入——ScienceCUA 直接对照与 SkillsBench"聚焦技能优于全量文档"互相印证;(3) 失败轨迹是有效学习信号——ExpeL 的成败对比、ScienceCUA 的失败历史消融一致;(4) 轨迹蒸馏技能可跨模型迁移——Trace2Skill 与 Zep 各自独立发现。

仍属合理猜测的机制:ScienceCUA 的保守整合设计(回归认证)相对在线安装的必要性未单独消融;Zep 词法 vs 向量检索的选择无对照;技能与 few-shot 示例的功能重叠关系未经交叉实验。

优势成立条件与失效条件:两篇一致显示——基座越强、外部知识增益越小(GPT-6 Astra +2.11pp;AWM 在新模型上增益消失;AppWorld 饱和区增益缩至 +4.5~7.7pp);知识源覆盖不到的需求无法凭空补(Lean 4 领域引理、TeXstudio 跨软件信息、教师没解出的任务);技能文本本身可致败(AppWorld 相反规则被合并保留的损失案例;SkillsBench 16/84 负增量)。失效模式的共同画像:当技能库的知识分布与任务需求分布错位、或基座已内化该知识时,技能系统退化为固定开销。

未决问题:(1) 跨任务迁移的严格量化——Zep 主实验是重放设计,ScienceCUA 的迁移证据限于同软件内任务族;(2) 失败任务的知识挖掘——Zep 只编译强验证成功,失败轨迹中已验证的局部子目标被浪费(论文自列 future work);(3) 技能库规模化的检索退化——SkillsBench 已观察到负增量任务,Zep 的结构化过滤是缓解而非解决;(4) 治理开销与收益的定量权衡——Wilson 信任值、扫描、事务准入的运行成本未报告。


七、必要知识反推

假设让一个没有任何背景的人从零做出这两篇工作,最少需要哪些知识?

领域知识层:(1) 科学软件的实际操作形态——GUI 菜单、控制台命令、脚本接口的差异,否则无法理解"版本错配"为何致命(菜单路径是版本敏感的字符串);(2) 认知科学中的记忆分类(CoALA 框架)——不知道程序性记忆与语义/情景记忆的区分,就不会意识到"生产记忆系统缺一块"这个空白;(3) Agent Skills 格式与渐进披露——两篇的交付层都建立在这个标准上。

方法论知识层:(1) 技能学习研究谱系(Voyager→ExpeL→AWM→ACE→Trace2Skill)——不知道这些就不知道"局部补丁优于全量重写"“被拒提案历史有用"“失败对比是信号"等已验证设计教训,Zep 的很多设计直接继承自此;(2) 资源到技能近邻的失败模式(MMG2Skill 的预配对假设、VisualSkill 的截图版本错位)——ScienceCUA 的双资源设计与 HTML/PDF 双合同正建立在这些教训上;(3) prompt injection 与记忆投毒攻击面(AgentPoison/MINJA/Skill-Inject)——Zep 的五威胁模型与控制映射表是把这些安全文献逐条翻译成系统设计;(4) 统计方法——配对 bootstrap、多重比较校正(Holm/Bonferroni)、Wilson 区间、贝叶斯后验,Zep 的评测严谨度与信任度量全靠这些。

工程知识层:(1) 确定性验证器与 LLM 输出的分权——Python 校验 schema/引用/一致性,LLM 只提议不提交(两篇共用的"可信代码"模式,这是把 LLM 从决策者降为提议者的工程纪律);(2) 基准审计方法论——ScienceCUA 团队能发现 169 任务中 38 个有问题,靠的是逐任务复现+对评测器执行路径的检查(GUI 缓存 vs Console 等价路径);(3) 生产系统集成约束——trace store(Braintrust/LangSmith)、MCP、命名空间隔离、删除传播,这些决定设计可行边界;(4) 环境工程——容器化科学软件栈、原生 Agent 评测框架扩展。

知识融合的关键节点:(1) “证据锚定"节点——把"LLM 会幻觉"这个常识转化为工程协议(逐字引用匹配/事件引用校验),是两篇可信度的共同基石,融合了 LLM 失效模式知识与确定性验证工程;(2) “独立验证"节点——ScienceCUA 把"评测污染"的方法论担忧转化为空历史重放协议,Zep 把"生产不可执行候选"的约束转化为验证分级+应用侧评估,同一个可信度问题在两种约束下解出两种协议;(3) “双角色分离"节点——Reflector/Curator 分离与诊断/写入先后解锁,都源自"提案与裁决是不同任务、裁决更窄、分开可审计"的洞见;(4) “生命周期"节点——把技能从文件重新概念化为带版本、信任值、准入门的知识资产,是记忆系统工程与数据库事务思想的融合。


八、论文中可以提取的通用性灵感

灵感一:知识资产必须带证据链,否则会退化为攻击面。 核心思想:任何会被下游系统当指令执行的内容(技能、配置、文档片段),都应逐条锚定到可审计的证据,且删除证据能传播到删除效果。 论文证据:Zep 的逐字段事件引用+删除即下线+审计记录;ScienceCUA 的逐字引用锚定与源锚定追加。 推广场景:企业 SOP 管理(新规则须引用生效文件,文件废止则 SOP 自动下线);代码库 AI 规则文件(CLAUDE.md/AGENTS.md 逐条链接到 issue 或设计文档);法务合同生成(条款引用条款库来源);RAG 知识库(答案引用可追溯到入库审批记录);模型微调数据集(样本携带许可与来源链)。

灵感二:先窄后宽的信任增长曲线优于一次性信任。 核心思想:新入库的自动化产物应从低信任/低权重起步,用持续验证的结局逐步晋升,而非默认全信。 论文证据:Zep 的 provisional→corroborated→established 三级+Wilson 下界信任值+贝叶斯搜索权重;ScienceCUA 的候选独立验证后才入池、多候选合并须回归认证。 推广场景:自动化代码合并(机器人提交先跑更大回归集再晋升信任等级);推荐系统新物料冷启动(曝光权重随 Engagement 置信度增长);众包答案聚合(贡献者信任值随被验证次数增长);告警系统(新检测规则先 shadow 模式观察);金融风控规则(新规则先小流量灰度)。

灵感三:把 LLM 从决策者降级为提议者,用确定性代码做闸门。 核心思想:LLM 输出是"主张”,其生效前必须经过不依赖 LLM 的结构校验,能修复的仅限无歧义的形式错误。 论文证据:两篇共用的可信代码模式——ScienceCUA 的 Python 验证器(引用逐字匹配、schema、跨对象一致性),Zep 的引用校验/修复边界(修复不能让无据主张变有据)。 推广场景:数据管道(LLM 抽取的字段过 schema+外键校验);自动写作(生成的数字回查源表格);Agent 工具调用(参数过类型检查+权限面);知识图谱构建(三元组过实体库匹配);表单自动填写(LLM 填、规则引擎校)。

灵感四:程序性知识与查询性知识应分库管理。 核心思想:知识按复用半径与使用方式分类存储(怎么走流程 vs 查什么值),按需组合,优于单一混合库。 论文证据:ScienceCUA 的 Skill/Reference 解耦消融(单独任一都提升、双资源最优)与 C-05 案例(两类知识阻塞不同环节)。 推广场景:企业知识库(流程文档与参数手册分列,工单 Agent 按步查流程、按需查参数);IDE(代码模板与 API 速查分离);客服系统(SOP 与产品参数库分离路由);机器人操作系统(行为树与传感器标定表分离);临床决策支持(诊疗路径与药物剂量表分离)。

灵感五:失败历史是探索资源而非废料,但必须与知识更新隔离。 核心思想:失败轨迹用于引导后续探索(避开死路、质疑过时权威),其本身不进入知识库——知识入库必须另行通过独立验证。 论文证据:ScienceCUA 后续探索始终从冻结初始库出发、历史只改行为不改知识;ExpeL 用失败对比提炼洞察;Zep 把失败 Trace 留作对照证据而非程序支持。 推广场景:自动化测试(失败用例引导变异测试探索但修复须过 CI);机器人路径规划(碰撞记录引导采样但地图更新须多传感器确认);量化交易(止损记录引导策略审查但策略上线须回测);探索性数据分析(失败假设列表防止重复试错但结论须独立复现);运维排障(历史工单引导诊断但 KB 条目须验证后发布)。


附录:关键数字速查

项目ScienceCUAZep Agent Skills
arXiv2611.03238(2026-11-02)2611.01386(2026-11-01)
主基准ScienceBoard-VE(168 测试 + 108 演化,276 任务)τ³/AppWorld/EnterpriseOps-Gym/ALFWorld
头条数字Grok 37.47→54.59%(+17.12pp);GPT-5.5 51.40→65.81%(+14.41pp)26/26 cells +4.5~+18.8pp;ALFWorld 弱基 +32.6pp(消除 57% 失败 vs RSD 37%)
关键消融−失败历史相对降 11.71%、−知识补充降 5.66%(Grok)教师 4/4 任务 +17.0pp vs 教师 0/4 任务 +0.6pp(τ³)
构造/编译成本初始库 4h23m(比 VisualSkill 少 62.2%)τ³ 每通过剧集 token −7.0~−44.6%(长任务摊薄索引成本)
开源项目页/代码/环境为占位符(正文未给 URL)服务代码未开源;格式标准开放(agentskills.io / SEP-2640)