记忆的训练、共享与成本核算：MemCo、AMBER 与 Persistent Memory Cost 三论文合读 精读

论文一：MemCo: Memory-Centric Collaboration for Generalizing LLM Agents to Unseen Environments（代码：SYannL/nvdamas） 论文二：AMBER: Training Long-Horizon Web Agents through Append-Only Memory（代码：agentic-foundation-modeling-research/amber） 论文三：Persistent Memory in Multi-Agent LLM Inference: What It Costs, What It Buys, and When You Can Tell 发表时间：均为 2026 年 10 月（论文三为 NeurIPS 2026 ML for Systems Workshop） 机构：MemCo——英属哥伦比亚大学（UBC，第一单位）+ Vector Institute + NVIDIA（通信作者 Holger R. Roth，并提供 RTX PRO 6000 Blackwell 算力），高校与企业合作；AMBER——北卡罗来纳州立大学（NC State）+ Shopify，第一作者为 Shopify 实习生并在实习期间完成，典型的企业实习合作；Persistent Memory Cost——UCLA（第一单位，含通信作者 Guang Cheng）+ 威斯康星大学 + HCLTech America，高校为主、企业工程师参与。 领域标签：LLM Agent 记忆 / 强化学习 / 推理系统（cs.AI）

「记忆」正在成为 LLM Agent 研究里被谈论最多、也最容易被谈糊的概念之一。这一篇合读选取三篇 2026 年 10 月同期出现的工作，它们恰好覆盖了同一个问题的三个正交切面：MemCo 管"记忆怎么跨 agent 共享"，AMBER 管"记忆写入行为怎么被训练出来"，Persistent Memory Cost 管"记忆层的账到底该怎么算"。三篇放在一起读，能拼出一个完整的图景：记忆不是加一个向量库就完事的功能，而是一个需要写入训练、共享治理与成本核算的系统工程。

一、论文背景：Agent 记忆的三个未解问题

先从最基础的概念说起。LLM Agent 是指以大语言模型为决策核心、在环境里循环执行「观察 → 推理 → 行动 → 获得反馈」的程序，比如帮人在网页上完成下单、在模拟厨房里完成清洁任务。它与传统单轮问答的本质区别在于：完成任务所需的信息是在交互过程中逐步发现的，而不是一开始就摆在上下文里。

这立刻引出第一个问题：**信息一旦被发现，如何跨步骤保留？**这就是 AMBER 关心的「轨迹记忆」（trajectory memory）。保留全部交互历史最直接，但网页观测（如可访问性树）动辄上万 token，完整历史很快撑爆上下文窗口——AMBER 实测第 30 步时全历史已达 90k token。于是出现了压缩式记忆：MEM1、MemAgent 等方法让模型每步重写（覆写）一个固定大小的记忆。但覆写引入了新风险：重写时丢掉的关键事实，再也回不来。

第二个问题：**一个 agent 的经验，能不能帮到另一个 agent？**Reflexion 存语言反思、A-Mem 做个体记忆组织，都在改进"单 agent 自己的经验复用"。但每个 agent 独立探索的成本很高，而不同环境里往往存在可迁移的工作流（比如「先清洁再放置」的顺序在厨房和浴室都成立）。G-Memory、Agent KB 等工作尝试跨 agent 共享记忆，却面临一个核心张力：共享的记忆要么太具体（带走了源环境的细节，无法接地），要么太粗糙（撑不起下一步动作）。这是 MemCo 要解决的「粒度困境」。

第三个问题最少被认真问过：记忆层到底花了多少资源、又买回了多少收益？很多多智能体系统加了持久记忆层（跨查询存取推理轨迹），然后跑一个「关掉记忆层 → 准确率下降」的消融实验就算验证完毕。Persistent Memory Cost 这篇论文的立场是：这类证据在单题独立基准上很可能测不到任何真实效应，而且测出来非零反而更可能是伪影。这把记忆研究从「有没有用」推向「怎么证明有用」。

顺着这三个问题，也就能看懂三个基准为什么这样选。ALFWorld 把高层语言指令对齐到模拟家庭环境（厨房/客厅/卧室/浴室四域）的低层动作，并用 Familiar/Held-out 布局切分直接度量「布局泛化」；PDDL 考符号规划的算子合法性；FEVER 考跨文档事实核验（Supports/Refutes/NEI 三分类）；ScienceWorld 是小学科学实验的交互基准。MemCo 用四者拼出「从具身到符号到检索」的广度。WebArena 则自托管五个真实功能网站（电商、CMS、论坛、地图），812 个任务用功能正确性判分——它是目前唯一能对 web agent 做可复现功能评估的主流环境，AMBER 选它是必然。Cost 论文则刻意横跨多跳 QA（HotpotQA/MuSiQue/2WikiMultihopQA）、长文 QA（NarrativeQA/Qasper）与闭卷多选（MMLU-Pro/GPQA），用数据集多样性保证零结果不是单一数据集的巧合。

二、论文定位和关联工作

三篇论文各自站在一条研究脉络的延长线上，把它们放进谱系里看会更清楚。

个体经验记忆线（AMBER 的背景）。Reflexion（NeurIPS 2023，arXiv:2303.11366）存失败尝试的语言反思，开创了「语言强化学习」；MEM1（arXiv:2506.15841）和 MemAgent（arXiv:2507.02259）把记忆巩固训练进循环状态、用 RL 训练覆写记忆；ReSum 做周期性摘要。这些方法的共同点是：一个事实能否幸存，取决于策略在每次重写时的决策。AMBER 的定位是这条线的「反动」：把「保留什么」从学习里拿出来，交给确定性规则，只学「写什么」。

沿着「个体经验记忆线」再细分一层：这条线上的方法按「保留决策交给谁」排成一个谱系——ReAct 把全部历史塞上下文（交给上下文窗口），Reflexion 存语言反思（交给抽取规则），MEM1/MemAgent 把巩固训练进策略（交给学习），AMBER 则把保留完全交给确定性规则、只把写入交给学习。谱系的走向很有意思：越靠后的方法交给学习的越少，而不是越多——这与「更多的端到端学习必然更好」的直觉相反，AMBER 的贡献可以理解为给这个趋势补了一个数据点：在稀疏奖励下，学习预算应该花在信息选择（写什么）而非信息保全（怎么不丢）上。

跨 agent 共享记忆线（MemCo 的背景）。G-Memory（arXiv:2506.07398）为多智能体系统建层级记忆图；Agent KB（arXiv:2507.06229）聚合异构框架的轨迹成结构化知识库；MemCollab、FedAgentKE 做跨模型记忆蒸馏。这些工作证明了经验共享的价值，但 MemCo 指出它们没有解决「共享经验的准入门槛」——什么经验够格进全局库——以及「接收端如何接地使用」。MemCo 的增量正是这两个环节：证据感知晋升 + 查询引导接地。

推理系统与评估方法线（Persistent Memory Cost 的背景）。Chain of Agents（NeurIPS 2024，arXiv:2406.02818）提出多 agent 分解处理长上下文，是该文实测架构（COA）的直接前身；vLLM/PagedAttention（SOSP 2023）代表 KV cache 管理优化，但优化的是「给定负载的 cache」而非「架构选择如何改变峰值需求」；Bouthillier 等《Accounting for Variance in Machine Learning Benchmarks》（MLSys 2021，arXiv:2103.03098）提供了方差核算方法论。该文的定位是：第一个把 agent 架构的峰值 KV cache 作为被消融的系统量来测量，并对领域普遍的「关记忆掉点」式消融证据发起方法学挑战。

一个值得注意的时间线细节：三篇论文都出现在 2026 年 10 月的第一周，且相互引用的基线（MemAgent、G-Memory、Chain of Agents）彼此高度重叠——这说明「agent 记忆」已经从 2023 年的零散探索（Reflexion、MemGPT）收敛为一个有共同基线、有方法学自觉的子领域。特别是 Cost 一文对「关记忆掉点」式证据的批评，几乎是踩着 MemCo 与 AMBER 的评审标准线在说话：前两篇的消融设计（冻结快照内对照、五因素固定只变一轴）恰好是第三篇四条件清单的正面示范。三篇放在一起，能看到这个领域正在同时经历方法爆发与评估反思。

三、问题定义

把三篇论文的具体场景剥掉外壳，抽象层面其实是三个互补的数学问题。

MemCo：经验的多主体信任与迁移问题。N 个 agent 各自在不同环境交互产生轨迹，求：如何组织经验，使 agent i 在从未交互过的环境里执行任务时，能复用其他 agent 的经验而不误传环境特定细节。其核心洞察是把记忆按「证据强度」分层：本地记忆保留接地细节（哪个水池能洗东西），全局记忆只收有足够跨环境证据支撑的抽象工作流（洗→放顺序）。晋升决策形式化为：给定抽象记录 p̄ 的支持证据计数 s 与经验支持率 ρ₊，当 Wilson 下置信界 W(p̄) ≥ λ 时才准入全局库。这本质上是一个带有限样本校正的 Bernoulli 比例估计问题。

AMBER：保留策略的可学习性问题。长程 web 交互中，给定稀疏的结果奖励（任务成败 0/1），学习一个策略同时输出推理、动作与记忆条目。其核心洞察是区分两个决策：「写什么」（需要智能判断，留给学习）与「保留什么」（需要可靠持久，交给规则）。覆写式记忆在原理上可以保留 append-only 能保留的一切，但它要求每个关键事实在每一次重写中都幸存——这是一个递归的、步步惊心的过程，稀疏奖励学不会。append-only 把持久性变成构造性保证，把学习难度从「学会永不丢失」降到「学会写有用的」。

**Cost：系统量的消融测量问题。**给定一个带持久记忆层的多智能体推理架构，测量：记忆层在峰值 KV cache 上的边际成本、在准确率上的边际收益，以及该测量在什么条件下有效。其核心洞察是负面的但结构性成立：单题独立基准（每题自带证据、独立判分）+ 防污染所需的清库操作，复合起来使召回无可检索的有信息内容——零结果不是实现不佳，而是测量场景无法行使记忆功能。

还有一个概念区分对读懂这篇论文至关重要：RAG 与 agent 分解不是同类方案。RAG 改变「哪些证据进入一次调用」，agent 分解改变「任务被摊到多少次调用上」——只有后者压低峰值 KV。直觉上「过滤了证据就该省显存」是错的：RAG 把检索到的段落拼进一次生成调用，其峰值与不检索的闭卷单跑无差异（本文实测 35.3 vs 35.5 MiB，区间重叠）。这是「峰值由最大单次调用决定，不由证据总量决定」的直接后果，也是该文第一个贡献（把峰值 KV 作为被消融的系统量）的立论基础。

三者的精妙之处在于恰好覆盖了记忆系统的「写入—治理—审计」三个治理环节，且每篇都把各自的直觉提炼成了可检验的形式化命题。

用一张类比表把三个抽象问题对应到经典结构：

顺带一提这个抽象的价值：MemCo 论文的定理 3.1（Wilson 有限证据校正的一致 O(s^(-1/2)) 衰减）本身只是初等统计学，但把它放在「经验准入」的位置上，就让一个工程系统获得了可分析的准入性质——推论 D.1 甚至给出精确的最低证据量门槛（全支持边界下 s_min = ⌈z²λ/(1-λ)⌉）。AMBER 对「可学习性 vs 容量」的区分（作者明确结论：差距是 learnability 而非 capacity）同样是抽象层的贡献，没有这个区分，覆写派尽可以说「我们原则上能做到」。Cost 的结构性零结果论证则是三篇中最接近纯逻辑的一篇——它不依赖任何新实验装置，只依赖对评估协议的两个已知性质做复合推理，然后实测验证。

四、问题解法

4.1 MemCo：双层记忆 + 证据晋升 + 查询引导

Wilson 下置信界是 MemCo 最有辨识度的组件，先解释它。设想 Reddit 排序问题：一条 2 好评 0 差评的评论和一条 100 好评 3 差评的评论，按平均好评率排前者在前，但前者可能是运气。Evan Miller 在《How Not to Sort By Average Rating》中推广的解法是：按 Wilson 置信区间（Wilson 1927 年提出）的下界排序——小样本的区间宽、下界被压低，样本多了下界自然抬升。MemCo 把它借来当记忆晋升门槛：一条工作流只在「有足够多的回合级支持证据，使支持率下界仍 ≥ λ=0.35」时才进全局库。定理 3.1 证明其有限证据校正量随证据量按 O(s^(-1/2)) 均匀衰减。

三模块流水线如下：

关键细节有三。其一，证据按回合归约：同一条记录在同一回合内的多次出现只算一票（矛盾优先），防止刷票——这是对 Wilson 公式独立样本假设的诚实让步。其二，精确键合并：全局库不用嵌入相似度判断两条记录是否相同，而用归一化后的抽象键精确匹配，避免「都提到水源」的注水工作流和清洁工作流被错误合并。其三，接地式组合：检索到的全局工作流（如「找水源→清洁→放置」）不会直接进 prompt，而是把目标物/水源/终点三个角色绑定到当前浴室的肥皂/面盆/梳妆台，绑定不上就丢弃——论文里那条厨房专属的「去厨房水槽」指令正是这样被拒之门外的。

把本地记忆的四类记录展开说清楚，它们各有分工：

每条可共享记录都带一个证据账本：支持（该回合的反馈证明关系成立）、矛盾（适用但结果不符）、无进展（标记用，不进 Wilson 样本）三类。晋升用的 s 与 ρ₊ 只从回合归约后的带符号计数计算——论文用一条链路总结：e_j → (c+, c-, c0, J) → (n+, n-, n0) → (n+(p̄), n-(p̄)) → ρ+, W(p̄)，其中只有回合归约计数进入 Wilson 公式。

4.2 AMBER：两轮对话 + 只追加规则 + GRPO

AMBER 的每步交互是两轮对话：第一轮，模型看到任务、当前观测和记忆库 C_t = [m_0..m_{t-1}]，生成推理与动作；第二轮，在同一对话内（推理与动作还在上下文中）让模型生成一条自由格式记忆条目 m_t。之后步内对话丢弃，环境执行动作，m_t 确定性追加进记忆库。没有删除、没有重写、没有学习参数参与保留。

GRPO（Group Relative Policy Optimization，出自 DeepSeekMath，arXiv:2402.03300）的要点顺带说清：对每个任务采样一组 G 条 rollout，每条只有终点 0/1 奖励，组内归一化算相对优势（省掉 critic 网络），同一条 rollout 内所有步共享该优势。AMBER 的巧处在于：推理 token、动作 token、记忆 token 全部一起吃同一个 rollout 级优势——记忆写得好不好没有单独奖励，完全靠任务成败反传。记忆写入行为因此是从结果中涌现的。

工程侧同样关键：Ray 管理的每 rollout 独立浏览器会话与网站容器（防 cookie 与网站状态泄漏）、SGLang 推理服务与环境服务异步解耦（浏览器 I/O 慢于推理时 GPU 不空转）。这套可扩展 rollout 架构是 RL 训练得以落地的底座——AMBER 论文里约三分之一的篇幅在讲它，这个比例本身就说明 web agent RL 的基础设施门槛。

三个隔离需求值得展开，因为它们是多 rollout web RL 的通用痛点：

• 浏览器状态隔离：每个 rollout（一条多步轨迹）一个独立 BrowserGym 会话，cookie、导航历史互不泄漏；会话由环境服务器追踪，终止或超时后回收；
• 网站状态隔离：会修改网站持久状态的任务（如发帖、下单）给 rollout 分配专用容器副本——一个 rollout 的写操作不能影响另一个；网站主机维护 rollout 槽位池，槽位归还前容器完全拆除；
• 异步解耦：rollout 之间不在环境步上互相等待——一个 rollout 等页面加载时，另一个已完成环境步的 rollout 可以立即发推理请求，推理服务器持续饱和。

这套设计让「每任务 G=6 条并行 rollout × 每步两轮对话 × 每回合独立容器」的规模成为可能。没有它，GRPO 的组相对优势（需要同一任务的成组轨迹）在浏览器延迟面前根本凑不齐。基础设施与方法在这里互为前提：组内采样要求环境隔离，环境隔离要求异步架构，异步架构又依赖推理与环境服务的解耦——链条上任何一环缺失，整个训练范式就不成立。

4.3 Cost：三层架构 + 单轴消融 + 结构性论证

被测系统 COA-PKV 分三层：L1 是每次调用的临时 KV cache；L2 是 Redis 键值库存放类型化的 agent 间通信单元；L3 是 Qdrant 向量库，兼任证据过滤与轨迹持久化。消融只动两个操作——轨迹召回（search_outputs）与轨迹写入（store_qkv），其余全部不变，得对照臂 COA-NOKV。隔离由探针实时验证：开启臂必须出现召回路径、关闭臂必须没有（单向检查不够，因为未配置的存储也表现为无召回）。

零结果的结构性论证分两步。第一步，题目独立自供证据：HotpotQA、MMLU-Pro 这类基准每题自带证据、独立判分，第 i 题学到的东西对第 j 题没有意义。第二步，正确性强制清库：轨迹按题面嵌入检索，固定种子重跑会召回自己上次的答案（污染），防污染必须在条件间清库——于是条件内的召回只能命中同轮其他不相关题目的轨迹。实测复现检索谓词（同嵌入模型、同 0.6 阈值）发现召回可达率仅 24%（去掉题面共享模板文本后 20%）。可达子组（n=138）效应 -0.012 [-0.073,+0.046]、不可达对照组 +0.009 [-0.007,+0.026]——两组都含零，一致性检验通过，证明「测得正确但不含信息」。

这条推理链有一个容易看漏的细节：为什么「可达」也不能帮上忙？看 per-cell 数据，MMLU-Pro 的可达率高达 86%（去掉模板后也不变，因为它各题真的共享学科词汇），但该 cell 的效应是 -0.012——召回确实在触发，只是召回回来的其他题目轨迹对本题无用。而 LB-2WikiMultihopQA 与 LB-MuSiQue 的可达率在去掉共享指令模板后从 10%/16% 腰斩到 1%/7%——即约一半的「召回」只是嵌入命中了题面的模板文本，而非内容相关。这两组观察共同支撑结构性论断：问题不在检索器坏，在于独立题基准里根本不存在可供跨题复用的信息结构。

最后是四条件消融检查清单（C1-C4），它把「一个记忆消融要可信必须满足什么」形式化了：

• C1 组件确执行：探针验证开启臂真的在读写记忆——本文曾发现持久层写入的轨迹从未被读取，两臂实际都没跑记忆；
• C2 运行独立：跑评测前先拿评测题查一遍存储，任何超阈命中即污染——本文曾测到 100/100 的题携带旧轨迹；
• C3 单轴变化：diff 两臂的序列化请求，必须只差一个字段——本文一次解析器不一致曾造出 37 点假收益；
• C4 效应超测量下限：用 replicate 组（同代码同种子）估复现带——本文的 ±0.09–0.10 复现带比准备引用的一切 delta 都宽。

五、评估指标与实验证据

5.1 MemCo：四基准 × 六骨干的广度验证

主实验覆盖 ALFWorld（模拟家庭任务，分 Familiar/Held-out 布局）、PDDL（符号规划）、FEVER（事实验证）、ScienceWorld（科学实验）四个基准与六个模型骨干。核心数字（Qwen3-32B，3 次运行均值±标准差）：

12 项设置中 10 项准确率第一、9 项步数最少；Wilcoxon 符号秩检验 + Holm 校正后对每个基线的准确率与步数优势全部显著（如对 G-Memory 准确率 p_Holm=0.0146、秩双列相关 0.846）。这个实验设计的证明力在于「双指标」：准确率提升与步数下降同时出现，说明性能提升不是靠更多探索试出来的，而是记忆引导直接走了近路。

机制消融（同一冻结本地记忆快照内对照）逐层验证三个组件：Local-only 在 held-out 上 89.64 → Global-only 97.14 → 完整系统 97.86，熟悉布局则 Global-only 96.10 → 保留本地的完整系统 97.40——本地记忆管接地、全局记忆管迁移，二者互补缺一不可。Wilson 对经验支持率晋升的对照：全局库 736 条 → 426 条，准确率反而 +2.27/+1.43pt——证据量校正在起作用，而非 prompt 大小（两变体注入条目数几乎相同：1.73 vs 1.70 条/次）。最锋利的反证是固定拼接：L5+G5 注入更多记忆反而落后完整系统 10.71/16.07pt——注入更多 ≠ 更好，检索组合方式才是关键。

交互预算敏感性实验补了一个实用结论：预算从 10 步提到 30 步时 MemCo 收益显著增长，30→50 步则边际递减（held-out 97.50 → 100.00）——而 ICL 在 50 步（95.71）仍追不上 MemCo 的 30 步（97.50）。换言之 MemCo 在更小的执行预算内达到更高完成率，这对按步计费的真实部署是有经济意义的优势。阈值扫描显示 λ 从 0.25 到 0.50 之间性能不敏感（全局库 735→294 条、准确率波动 <1pt），说明系统不靠精调超参存活。跨模型家族的 FEVER 复验（Claude-Haiku-4.5 / Gemini-2.5-flash-lite / DeepSeek-v4-flash 分别 69.49 / 72.04 / 77.97，全部第一，其中 Gemini 相对次优 +32.8%）进一步排除了「只在 Qwen 家族有效」的质疑——不过也要如实指出，G-Memory 在 DeepSeek 上没能跑完，该列缺少对照。

5.2 AMBER：五次运行的可靠性度量

WebArena Lite（WebArena 的精选子集，自托管电商/论坛/地图网站，arXiv:2307.13854），五次独立运行取均值，Qwen 3.5 系列：

三个对照设计各有用意。零样本对照：Qwen 3.5 9B 全上下文协议 34.22%，同一模型换成 AMBER 两轮协议直接崩到 21.82%——说明写记忆是需要训练的能力，不是提示词能白拿的，这反过来论证了显式记忆训练的必要性。精炼监督对照：给 MemAgent 配上 judge 惩罚有损压缩的昂贵数据管线后升到 35.59%，AMBER 无需该管线即达 36.85%——覆写不是学不会，是学起来贵。可靠性指标：AMBER 的优势随阈值收紧而扩大（≥1/5 领先 4.7pt，5/5 领先 4.8pt），主要价值在于稳定解出而非碰运气解一次。

「精炼监督」管线本身值得一提，因为它展示了覆写路线的救市成本：对每一步生成用「生成-审判-修订」循环，judge 按六条固定顺序标准（事实忠实→覆盖完整→更新替换→分区→卫生→推理风格）审查，十三种违规类型里前三条（LOSSY COMPRESSION、NON CUMULATIVE MEMORY、SUPERSEDED INFORMATION）正是覆写的固有失败模式。即便如此，精炼后 35.59% 仍低于 AMBER 的 36.85%，且可靠性五档阈值中 AMBER 三档领先——用更贵的数据管线去修补机制缺陷，不如直接换机制。这个对照的设计（同模型、同 RL、只换 SFT 数据质量）干净地分离了「监督质量」与「保留规则」两个变量。

轨迹分析给出两条机制级证据：覆写后环境错误反馈的轨迹保留率 1 步 100% → 4 步仅剩 0.8%（AMBER 构造性 100%）；无效动作平均重犯 1.29 次 vs 1.95 次，重犯 ≥6 次的占比 3.3% vs 15.4%。论文里 T. Gannon 案例很直观：两个 agent 都正确记下评论者 Rachel，覆写 agent 在看到 T. Gannon 后的下一次重写中把 Rachel 抹掉，最终只答出一人；append agent 两条记录并存，答对两人。

错误恢复的逐案例对比（论文附录 E）把这个机制拍得更实。同一个 Maps 任务上两个 agent 都在 step 4 误用 clear() 并在 step 5 的记忆里正确记下 NameError 教训：AMBER 的这条记忆此后一直躺在上下文里（原文展示它原样存在到 step 13），clear 再也没被发出；MemAgent 的下一次覆写把教训抹掉，step 12 重发 clear、step 15 又对另一个字段重发，一轮任务里 clear 被拒绝八次。更微妙的是 Task 75 案例：覆写 agent 的推理里明确写「我试过两次 clear 都失败了」，但记忆从未记录——推理会反省，记忆不保留，反省就无法跨步累积，这正是「显式记忆训练必要性」的微观证据。

训练配置的数字也有参考价值：SFT 用 Go-Browse 开源轨迹加合成记忆标签（Pi coding agent + GPT 5.5 回溯式标注，禁止泄露未来信息），2328 条轨迹 1 epoch；RL 用 G=6 组、每 episode 上限 20 步、100 步训练、lr 1e-6、KL 系数 0.001；9B 在 8 张 H200 上（2 训练 + 6 rollout），27B 用 B300。这些超参本身不惊人，惊人的是如此朴素的配方就能让记忆写入行为从零涌现——前提是 rollout 基础设施扛得住浏览器 I/O 与站点状态隔离。

5.3 Cost：配对消融与置信区间的诚实呈现

8 对数据集（多跳 QA / 长文 QA / 研究生级多选）、每臂 n=100、按题配对：

与架构层收益对照：分解式 COA-PKV 峰值 KV 14.3 MiB/查询 vs FLAT 35.5、RAG 35.3（-59.9%/-59.7%，CI 无重叠）——分解架构的收益是真的，持久记忆层在单题基准上的收益测不到。注意 RAG 与 FLAT 峰值无差异这个细节：RAG 改变进入调用的证据，不改变调用次数，「过滤证据不缩最大单次调用」由此得到干净验证。

评估方法学本身是重要贡献。四条件清单（C1 组件确执行/C2 运行独立/C3 单轴变化/C4 效应超测量下限）每条都对应一次真实翻车：C2 污染曾使固定种子重跑 100/100 的题命中自己旧轨迹、单数据集虚高 0.2949→真实 0.2282；C3 一次解析器不一致曾造出 37 点的虚假记忆收益；C4 复现带 ±0.09–0.10，一切准备引用的架构-基线 delta 都更小。论文甚至披露：若把 LB-All 数据池入，一次服务中断会制造出 CI 排除零的 +0.071「记忆收益」——他们没有池入，并写明了原因。

另一个值得单独指出的证据是「测前 vs 测后」复现带的对比。历史复现带 ±0.09–0.10 来自污染时代的重复组；改用 trace-reset 协议后重测同样两个数据集，组内标准差骤降至 0.003 与 0.007（服务栈修复后四次重复甚至完全一致 σ=0），95% 带缩到 ±0.006–0.014。这说明复现带宽窄本身是评估协议卫生程度的函数——脏协议不仅会虚高效应，还会掩盖真实效应（把 ±0.01 级别的差异埋进 ±0.10 的噪声带里）。对任何做 agent 评测的人，这个对比的价值不亚于主结果。

峰值 KV 的测法也讲究：它统计「单次调用（prompt+生成）的最大 KV 占用」而非总流量——总流量数字大四倍，但回答的是另一个问题。换成总量视角，分解架构的累计 KV 流量其实是 FLAT 的 ≈1.6 倍：分解买的是更低峰值，付出的是更高总量，这笔交换在「显存按峰值供给」的边缘部署场景（本文用 Jetson Orin Nano 8GB + DGX Spark）才划算。附录还给出估计/实测比：COA 的预跑 token 估计高估峰值 6.3–12.2 倍（多数调用远低于预算），而 FLAT/RAG 只有 1.1–1.7 倍——预告算在多调用架构里几乎失效。

六、效果优势的根源解释

6.1 MemCo：证据量校正与接地组合的因果链

因果链一（双层分工 → 迁移与接地的兼得）：覆写历史路线的共享记忆（如 G-Memory）把交互细节与可迁移知识混在同一表征层，检索粒度陷入两难。MemCo 的改变是按证据的泛化性物理分层：本地库天然保留环境特定细节（熟悉布局 97.40 vs Global-only 96.10），全局库只含跨环境验证过的工作流（held-out 89.64 → 97.14）。机制变化是「迁移知识与接地知识不再争夺同一个记忆槽位」，体现在两个 split 上方向一致的提升。（论文实验已支持）

因果链二（Wilson 晋升 → 更少但更可靠的全局库）：经验支持率 ρ₊ 的问题是「3/3 支持」与「300/300 支持」同分——前者可能只是没遇到反例。Wilson 下界把证据量打进准入分数（校正量 O(s^(-1/2))），效果是全局库从 736 条缩到 426 条、准确率反升 2.27/1.43pt。关键排除实验：两变体注入条目数几乎相同（1.73 vs 1.70），排除 prompt 长度解释，锁定记录质量差异。（论文实验已支持）

因果链三（查询引导组合 → 定向注入优于泛注入）：L5+G5 固定拼接注入更多记忆反而差 10-16pt，与《Lost in the Middle》（Liu et al. 2024）及 Shi et al. 的「无关上下文干扰推理」结论方向一致——不相关记忆不是中性噪音，是负贡献。三维相关性过滤（去掉任一 facet 均降准增步）+ 角色绑定接地，共同保证注入的记忆与当前决策状态相容。（论文实验已支持；与无关上下文干扰文献的交叉印证为阅读者综合）

一条贯穿性的根源观察：MemCo 与 AMBER 其实共享同一个第一性原理——记忆系统的瓶颈不在存储而在选择。MemCo 的三个机制（晋升筛选、检索过滤、组合去冗）全部是选择操作，AMBER 的 append-only 本质是把「选择写什么」独立成唯一的学习任务而放弃「选择删什么」。两篇从共享与训练两个不同出发点，收敛到同一条设计哲学上；而 Cost 的测量结果（过滤证据不缩峰值、召回可达却不增益）则从成本侧再次呼应：加东西容易，加对东西难。

6.2 AMBER：append-only 优于覆写的可学习性根源

因果链（保留规则 → 学习问题难度 → 可靠性指标）：覆写记忆的原理容量与 append-only 相同（原则上每次重写都可以保留一切），差距在学习问题的结构。覆写要求策略学会「每一步重写都不丢失此前所有关键事实」——一个递归的步步约束，任何一步失误都不可逆；稀疏 0/1 结果奖励对单步丢失没有梯度信号（任务失败时无法归因到哪次重写丢了信息）。append-only 把这个不可学习的长期约束变成构造性保证，学习问题缩为「写出对后续有用的条目」——一个单步质量可以由最终成败弱监督的问题。证据三重：错误反馈保留率（构造性 100% vs 4 步 0.8%）、重犯率（1.29 vs 1.95 次）、精炼监督对照（昂贵数据管线才能部分弥补覆写的缺陷）。（论文实验已支持；「可学习性而非容量」的解释是作者自己给出的定位）

外部交叉验证：MemAgent 原论文在长文档 QA 上用 DAPO 训练覆写记忆成功，与 AMBER 的结论形成有趣张力——差异在任务设定：长文档 QA 的「事实」是被动阅读的外部信息，覆盖式摘要相对容易学；WebArena 的「事实」是主动探索的行动状态与错误反馈，需要策略自己决定记录粒度。这个对比说明 append-only 先验的价值随任务信息结构的主动性上升而上升（阅读者推测，两文任务设定不同，不能直接互为因果证明）。MEM1 在 WebShop 上的循环覆写也报告有效，但它同时把推理与记忆巩固压进单一循环状态，与 AMBER 的显式可审计记忆库不是同一设计点。

6.3 Cost：为什么零结果值得发表

该文的优势解释是反面因果论证：两个性质（题目独立自供 + 正确性强制清库）复合「强制」出零结果，并用 reachability 分组完成闭环——可达组效应为零（真的测了记忆、没效果可见）、不可达组作为内置对照效应为零（没测到记忆、也不该有），两组一致性证明测量本身正确、只是场景不含信息。可迁移的逆否命题是：在独立题基准上报出非零记忆效应，更可能是伪影而非发现。四类纠偏的实测案例（污染虚高 0.29、解析器不一致 37 点假收益）给了这个命题经验支撑。

相关工作检索与对照：

检索过程中还注意到一个反向参照：MemSkill（把记忆管理做成可学习自然语言技能）在 MemCo 的对照里是 held-out 次优基线（57.74），说明「学习式记忆管理」与「规则式保留」两条路线在 4B 小模型上差距最大（+43.5%），而在 32B 上缩小——模型越强，越能自己消化记忆管理的复杂度，机制先验的边际价值随模型能力衰减。这与 AMBER 中 27B 上 append-only 优势从 +4.09pt 缩到 +2.05pt 的趋势一致（阅读者综合两文数据提出的规律，非任一论文的明确结论）。若该规律成立，机制先验的定位应是「小模型时代的脚手架」而非永久架构——但它不会完全退役，因为 AMBER 显示即使 27B，覆写的错误反馈擦除问题依然存在。

综合判断与未决问题。得到多项研究共同支持的机制：定向检索优于泛拼接（MemCo 消融 + 无关上下文干扰文献）；持久性约束对稀疏奖励学习的价值（AMBER 三重证据 + 精炼监督对照）；单题基准不考察记忆（LoCoMo/LongMemEval 共识 + 本文 reachability 实测）。仍属推测或单点证据的：Wilson 晋升的收益是否泛化到噪声更大的真实环境证据（论文自承证据独立性假设只做了回合归约的让步）；append-only 在远超 30 步的轨迹上是否需要选择/巩固机制（作者自列开放问题）；COA 峰值 KV 收益在更多骨干上是否复现（单系统单团队）。优势的适用条件与失效条件：MemCo 需要初始轨迹冷启动且仅在文本/符号环境验证；AMBER 的上下文线性增长在超长轨迹会逼近预算；Cost 的零结果只否证「单题独立基准上的可测收益」，不否证多会话场景中的记忆价值——论文原文明确写「untested, not disproven」。

三篇的根源解释之间还存在一个有趣的相互印证：MemCo 的 L5+G5 反证（多注入更差）与 Cost 的可达子组零效应，从两个方向共同说明记忆的价值不在存储量而在与当前决策的信息匹配；而 AMBER 的递归压缩损失分析则从写入端补上第三块拼图——即便匹配了，覆写也会把待匹配的信息弄丢。三个失效模式（存而不当、存而不用、存而复失）正好构成记忆系统的完整失效分类。

七、必要知识反推

假设一个零知识的人要做出这三篇工作，最少需要掌握什么？

领域知识层。要懂 LLM Agent 的标准交互协议（ReAct 循环、POMDP 形式化、可访问性树观测），否则连「轨迹记忆要保留什么」都无从定义；要懂 KV cache 的算术（本次是 10,240 B/token 的 KV 几何换算），这是把「记忆成本」变成可测 MiB 数的前提——多数记忆论文只数 token，敢折算显存的不多。

方法论知识层。MemCo 侧：Wilson 区间的推导与小样本性质（Bernoulli 比例估计的置信区间理论）、假设检验的多重校正（Wilcoxon + Holm）——没有这些就没有「证据感知晋升」这个概念。AMBER 侧：策略梯度与 GRPO 的组相对优势设计、异步 RL 的 actor 并发模型——知道「为什么省 critic」才会想到让记忆 token 与动作 token 共享 rollout 优势。Cost 侧：配对实验设计（按题配对消掉题目难度方差）、cluster bootstrap（cell 是独立单元）、复现带估计（从 replicate 组而非 within-run bootstrap）——这些是统计方法学而非 ML 知识。

工程知识层。AMBER 的可扩展 rollout 架构要求掌握 Ray actor 模型、SGLang 推理服务、容器隔离与状态管理——论文用三分之一篇幅写基础设施不是跑题，是 web agent RL 的真实门槛。Cost 的隔离探针设计（双向验证召回路径存在/缺失）来自对「未配置的存储也表现为无召回」这种系统失效模式的直觉。

知识融合的关键节点。三个融合点最见功力：其一，MemCo 把统计学家的排序工具（Wilson 下界）从电商评分迁移到 agent 经验准入——跨领域的方法搬运；其二，AMBER 识别出「写什么」与「保留什么」是两个可分离的决策，把后者从学习问题降格为规则——问题的分解本身就是贡献；其三，Cost 把「测不到效应」从失败结果重述为关于测量场景的结构定理——把尴尬转化为方法学。这三步都不是新知识，而是旧知识在新位置的化学反应。

如果按「最少知识清单」排序，三篇的门槛曲线也各自不同：MemCo 的门槛在统计方法层（Wilson 区间、多重校正），工程层反而是最轻的（单卡 RTX PRO 6000 即可复现主实验）；AMBER 的门槛倒过来——方法论只有 GRPO 一件工具，工程层却要同时驯服 Ray、SGLang、BrowserGym、容器编排四套系统；Cost 的门槛最特别，在「审计直觉」——它要求的不是会算，而是肯把自家历史运行记录一页页翻出来对账。三种门槛对应三类人才画像，也间接解释了为什么这三篇工作分别出自高校+企业合作、实习生+企业、统计系+工程师的组合。

八、论文中可以提取的通用性灵感

**灵感一：用统计下界做内容准入门槛。**核心思想：准入决策应同时考虑支持率与证据量，小样本的高支持率要打折。论文证据：Wilson 晋升以 42% 更少的全局记录获得 +2.27pt 准确率，且注入条目数对照排除了 prompt 大小解释。推广场景：内容推荐系统的冷启动排序（与 Evan Miller 的原始场景同构）；RAG 系统的知识条目准入（被引用多少次才入库）；代码审查中 lint 规则的启用决策（误报率下界达标才默认开启）；多智能体系统里工具调用策略的灰度放量。

**灵感二：把不可学习的长期约束改写为构造性保证。**核心思想：如果某个约束（如永不丢失）在稀疏奖励下学不会，就别学它——用机制直接保证，把学习预算集中到真正需要智能的决策上。论文证据：append-only 以 +4.09pt 成功率与 20.5% vs 15.7% 的 5/5 可靠性胜过覆写；精炼监督对照显示覆写要学到同等水平需昂贵数据管线。推广场景：数据库系统的 WAL（预写日志，本身就是 append-only 思想的工程远亲）；分布式系统的幂等性设计（与其学会不重复，不如设计成重复无害）；代码生成中的类型检查（与其让模型学会类型一致，不如让编译器强制）；任何「单步失误不可逆」的学习任务的机制化改造。

**灵感三：在单题独立基准上，非零的记忆/累积效应更可能是伪影。**核心思想：如果评估场景在结构上无法行使某个组件的功能，那么该组件的「显著收益」应默认怀疑而非默认相信。论文证据：reachability 实测仅 24% 可达 + 可达/不可达两组效应一致性 + 四类纠偏曾造成的 0.29/37 点虚高。推广场景：RAG 系统在一次性问答基准上评估「缓存收益」；推荐系统在离线独立曝光数据上评估长期兴趣建模；任何「跨样本状态组件」在「独立同分布评测协议」下的消融报告——先问评估场景能不能行使该组件，再看数字。

**灵感四：注入更多 ≠ 更好，定向组合才是价值所在。**核心思想：检索到的信息对决策的价值取决于与当前状态的相关性过滤，而非数量；不相关信息是负资产。论文证据：L5+G5 固定拼接比完整系统低 10-16pt，尽管注入更多。推广场景：RAG 的证据选择（top-k 盲取 vs 条件过滤）；长上下文模型的上下文裁剪策略；人机协作中的信息呈现（仪表盘指标该按当前任务阶段过滤）；教育领域的个性化提示（与学习者当前卡点相关才给）。

**灵感四点五：先问评估场景能否行使组件，再看数字。**核心思想：组件的功能前提（如记忆需要跨题状态复用）若被评估协议结构性剥夺，则一切指标都是空转——这不是组件失败，是场景错配。论文证据：Cost 的两性质复合论证 + reachability 分组的闭环验证。推广场景：在一次性分类基准上评估「多轮对话能力」；在单机基准上评估分布式系统的容错；在静态数据集上评估在线学习系统的适应速度——这些组合都测不出被测组件的真实能力，测出「收益」反而要查伪影。

**灵感五：负结果 + 方法学清单是可迁移的论文形态。**核心思想：当测量本身暴露了领域普遍的方法学缺陷时，把失败经验结构化为可执行检查清单，价值不亚于一个正向方法。论文证据：四条件清单每条对应真实翻车案例，且纠正方向双向（证明是测量而非调参）。推广场景：任何实验学科的评估协议审查；工业界 A/B 测试的污染检查（对照 Cost 的 C2：上线前先查对照组是否被污染）；模型评测基准的复现带报告规范。

**灵感六：评估协议的卫生程度决定复现带宽度。**核心思想：跑分噪声不是环境的固有属性，而是评估协议的函数——修好协议后，同一系统同一数据的方差可以缩一个数量级。论文证据：trace-reset 协议下组内标准差从 0.046-0.052 降到 0.003-0.007，修复服务栈后 σ=0。推广场景：竞赛 leaderboard 的方差来源审计；CI 里模型回归测试的抖动治理；科研复现危机的工程化解法——先修协议再谈效应量。

**灵感七：推理会反省不够，反省必须落盘才能累积。**核心思想：模型的即时推理（chain-of-thought）里出现的正确教训，如果不写入持久状态，对后续步骤等于没发生。论文证据：AMBER Task 75 案例——覆写 agent 的推理明确记得 clear 失败两次，但记忆未记录，于是 clear 被重发七次。推广场景：人类组织的复盘制度（口头复盘 vs 写入 wiki）；RAG 系统的失败案例沉淀（失败不进知识库就会重蹈）；个人知识管理中「想通了」与「写下来」的差异；自动化运维中告警根因的持久化。

附录一：三篇论文的互补关系一图流

写记忆的人需要读训练它的人的论文（AMBER 的写入涌现），训练它的人需要读治理它的人的论文（MemCo 的准入门槛），而所有做记忆系统的人都应该读算账的人的论文（Cost 的四条件清单）——在为你的记忆层写下下一条「关掉就掉分」的消融结论之前，先跑一遍 C1-C4。

附录二：三篇的局限对照（作者自述 + 阅读者补充）

三篇都把局限写得很诚实——这在 2026 年的 agent 论文里不是常态，Cost 甚至把「为什么相信没有第五个混杂」单独作答（纠正方向双向，是测量不是调参）。这种坦白本身也是可复现性文化的一部分。

附录三：给不同读者的行动建议

• 正在做 agent 记忆系统的研究者：优先消化 Cost 的 C1-C4 清单与 reachability 方法论——它决定了你的消融实验能否撑住审稿；MemCo 的 Wilson 晋升与回合归约可以直接叠加到任何经验共享系统上。
• 正在训 web agent 的工程师：AMBER 的两轮对话协议 + append-only 上下文是最容易复现的增量（改 prompt 模板即可起步），但 rollout 隔离架构是硬门槛，请预留与模型训练等量的工程投入。
• 正在评估是否给系统加记忆层的技术决策者：先问使用场景是否存在跨请求状态复用（多会话、重复查询的语料、实体重访）；若是单题独立场景，Cost 的答案是「花了显存买不到可测收益」——不是记忆没用，是你的场景用不上。

附录四：延伸阅读路径

如果想沿这三篇继续深挖，建议的阅读顺序是：

1. Bouthillier et al. 2021——先建立「基准方差怎么算」的底层意识，它是读懂 Cost 一切操作的前提；
2. MemAgent 与 MEM1——覆写路线的两篇代表作，与 AMBER 对照能看清「保留决策交给谁」这一设计轴的全谱；
3. G-Memory 与 Agent KB——共享记忆的前置工作，MemCo 的对照系；
4. Chain of Agents——分解式推理架构的原点，Cost 实测系统的直系前身；
5. LoCoMo / LongMemEval——如果读完 Cost 后想知道「记忆该在哪测」，这两个基准是答案的一半，另一半（agent 环境中的跨回合状态复用）正在被本篇三文这样的工作书写。

一句话收束：记忆系统的三个治理环节——写入靠训练（AMBER）、共享靠统计治理（MemCo）、收益靠诚实测量（Persistent Memory Cost）——在 2026 年 10 月的这一周里，分别找到了自己的范式样本。