Agent 系统工程的双轴优化——ParetoSaddler 与 BASIN 双篇精读

论文一链接：ParetoSaddler: Pareto-Guided Optimization of Agent Harnesses for Quality and Cost 论文一项目页：aka.ms/ParetoSaddler-website（承诺开源） 论文二链接：When Cache Pressure Becomes a Trap: Metastability in Agent Serving 发表时间：2026年11月 论文一机构：Microsoft（多数作者含通信作者）、UCL、POSTECH、南方科技大学、东南大学、MBZUAI；前四共同一作为微软实习生，属企业主导的多机构实习合作项目 论文二机构：南洋理工大学 NTU（第一单位，三人）、哈佛大学；纯学术合作 领域标签：cs.AI / cs.DC（LLM Agent 系统工程）

引言：一个系统的两条优化轴

把一个 LLM Agent 产品从 demo 推向可用的生产系统，工程上要回答两个不同性质的问题。第一个是离线问题：围绕固定模型的 harness——提示词、工具配置、中间件、控制逻辑——要怎么改，才能让任务质量更高、token 成本更低？这是 ParetoSaddler（arXiv 2611.02079）的战场。第二个是在线问题：优化好的 Agent 一旦上线服务，推理引擎在流量波动下能不能稳住？这是 BASIN 论文（arXiv 2611.02543）命名的种群-缓存亚稳态问题的战场。

两篇论文一离线一在线、一优化一稳定，恰好构成 Agent 系统工程的两条轴。更微妙的是，它们共享同一种思维方式：都不满足于把工程直觉堆叠成系统，而是先找到一个被忽视的结构性机制（晋升与部署的错配；缓存压力的正反馈回路），把它形式化，再让系统设计中的每个组件精确作用于这个结构中的对应项。本精读按九部分逐篇展开，最后在根源解释与通用灵感部分做双篇对照。

一、论文背景

1.1 ParetoSaddler：harness 优化为什么难在双目标

Harness 是什么。 一个 Agent 的能力不止来自模型权重，还来自包裹模型的整个执行环境：系统提示、工具描述与清单、中间件钩子、控制循环逻辑。这套环境被称为 harness（马具/挽具——套在模型身上的那套装备）。工业界经验（如 LangChain 的 harness engineering 实践）反复表明：模型权重完全不动，仅改 harness 就能大幅改变 Agent 表现。于是出现了自动 harness 优化（Automatic Harness Optimization, AHO）：让一个外部优化器（通常本身是个强 LLM 编码智能体）读执行轨迹、诊断失败、生成对 harness 的修改建议。

现有方法的单目标惯性。 现有 AHO 工作绝大多数只优化一个目标——任务质量。但真实部署从来都是多目标的：质量要对，token 成本也要压住。把双目标引入 AHO 乍看只是换个评分函数，实际上碰到了一个深层错配：AHO 方法普遍采用分级评估（staged evaluation）——候选项先在便宜的小样本上筛查，通过者才进入昂贵的全量开发评估。筛查决策不只是省评估费，它还决定了哪些中间 harness 能留下来作为后续优化的父本。

错配的根源在于长程 Agent 的成本-进度耦合。 在长程任务里，执行成本与任务进度是耦合的：一个 harness 显得便宜，可能只是因为它经常提前终止（任务没做完就退出了）；一个修复这种失败的补丁，往往在提升质量的同时暴露出新的低效环节而增加成本。如果在这个中间时刻用部署偏好（比如成本约束）去筛掉它，就等于掐断了后续补丁在其能力增益之上继续降成本的路径。这与进化计算中的一个老洞察相合：搜索引导不必与最终选择目标一致。

第二个障碍是执行随机性。 同一 harness 在同一任务上重复执行，质量与成本都会大幅波动（论文实测开发集上质量的组内变异系数达 18.8%、成本达 25.6%）。用均值比较父子两代，会把随机波动当成真实改进，高估弱支持的增益。

1.2 BASIN：Agent 推理服务的缓存为什么是生命线也是陷阱

PD 分离与前缀缓存。 现代 LLM 推理服务把 prefill（并行处理提示词）与 decode（逐 token 生成）放在不同实例上，称为 PD 分离（prefill-decode disaggregation），两者间传输 KV 状态。Agent 工作负载有个关键特征：每次模型调用都要重发不断增长的对话前缀。论文测量的 Terminal-Bench 轨迹中，中位 prompt 25.6K token，其中 98.2% 在上一次调用中出现过。前缀缓存（SGLang 的 radix tree）让返回的调用只 prefill 新增后缀，可减少至 50 倍的 prefill 工作量。前缀复用因此是 Agent 服务吞吐的生命线。

生命线如何变成陷阱。 问题出在负载波动。一个短暂的流量激增（surge）会引入一批新会话，把活跃会话集合（working set，所有活跃会话的合并上下文）撑大；缓存容量不够就发生 LRU 驱逐；被驱逐前缀的会话返回时要重算，prefill 变慢；变慢的调用让会话活得更久（会话只有走完最后一轮才离开）；新到达的会话继续涌入，working set 进一步膨胀——一个自我强化的反馈回路。激增结束后，这个回路可能自我维持：服务在它本来能承受的到达率上持续退化。这正是分布式系统中亚稳态失效（metastable failure）的定义特征——触发器消失了，退化还在。

为什么常规监控看不见。 论文的关键观察是：出事之前，利用率、队列长度、KV 占用这些常规弹性伸缩与过载控制信号全部显示富余。等你看到指标恶化，系统已经掉进坑里了。

二、论文定位和关联工作

2.1 ParetoSaddler 的研究谱系

谱系一：自动提示/系统优化。 从 APO、TextGrad、OPRO 等提示优化方法，到 GEPA 的反思式进化，再到把优化对象扩展到完整 harness 的 AutoHarness、Meta-Harness 与 AutoSaddler。协议上分两支：搜索式（生成-比较-迭代）与学习式（小批量增量更新+分级评估）。ParetoSaddler 建立在 AutoSaddler 的分级离线学习框架之上，是学习式路线的延伸。

谱系二：LLM 系统的多目标优化。 经典多目标优化保留非支配解（PAES、SPEA2），近期工作把它用于提示（InstOptima、Survival of the Safest、MO-CAPO）与 Agent 技能（SkillMoo）。但整 harness 的多目标优化成本远高于提示级——每个候选要跑完整长程轨迹——这正是分级评估的动机，也正是在分级筛查环节引入 Pareto 逻辑的入口。

谱系三：噪声评估下的优化选择。 噪声下的候选选择是老问题；近期工作把重复评估与 bootstrap 重采样用于多目标排序与 LLM Agent 配置选择。ParetoSaddler 的增量是把贝叶斯 bootstrap 的不确定性估计嵌入分级 AHO 的晋升决策。

谱系四（理论根基）：多目标化。 Knowles 等人 2001 年证明把单目标问题多目标化可以减少局部最优——ParetoSaddler 的核心发现（引入成本目标反而把质量做得更好）可视为这一经典结论在 AHO 上的实例化。

定位结论：ParetoSaddler 不是又一个 AHO 方法，而是给所有分级式 AHO 方法补上的一块多目标决策层——它不替代底层的 AutoSaddler 进化机制，只改造其中的晋升门与终选逻辑。

2.2 BASIN 的研究谱系

谱系一：亚稳态失效理论。 Bronson 等人（HotOS 2021）提出框架：触发器把脆弱系统推入退化态，维持效应在触发器消失后保住退化态；Huang 等人（OSDI 2022）从 11 个组织的 22 起事故中证实其普遍性（AWS 十五年 15 起重大事故至少 4 起属此类）。已知维持效应包括重试风暴、GC、冷旁路缓存。BASIN 论文的贡献是识别出一个新的维持效应：种群-缓存反馈，并首次在 PD 分离 Agent 服务上用真机因果干预证实。

谱系二：LLM 服务容量与缓存管理。 PD 分离（DistServe、Splitwise、Mooncake）、分层缓存（HiCache、LMCache）、KV 保留与多轮会话（CachedAttention、Pensieve）构成容量侧；弹性资源借用（Crossflow 借 decode 算力做 prefill）是弹性侧。

谱系三：Agent 调度与准入。 把 Agent 工作流显式化为程序（Parrot、Autellix/Agentix、InferCept）、KV 保留调度（Continuum 的 TTL 固定）、准入控制（CONCUR 的 agent 级 AIMD、ThunderAgent 的容量上界）。这一系工作都观测到缓存抖动/中间相失效现象，但按论文的梳理，它们要么针对离线批量池（CONCUR 的 middle-phase thrashing），要么未分离有限触发与持续到达对退化的不同作用。

谱系四：经典内存管理。 Denning 的工作集模型（1968）与页错误频率控制（1972）是 BASIN 准入机制的直接思想来源——把操作系统防颠簸的原则搬到会话粒度。

定位结论：BASIN 论文是罕见的命名型工作——先命名并证明一个此前无名的系统现象，再给流体模型，再给系统方案，三段各自独立成立。

三、问题定义

3.1 ParetoSaddler：把晋升与部署选择分开

具体问题：分级 AHO 中，中间候选用什么规则晋升，才能既不误杀未来有用的更新，又不放行统计上不可信的假增益？

抽象洞察：论文发现中间晋升与最终部署选择是两个本质不同的决策——前者决定搜索空间保留什么（探索问题），后者决定交付什么（偏好问题）。把部署偏好提前到筛查阶段，是用偏好回答了探索问题。

形式化：给定任务分布 P，harness h 的总体质量 Q(h)=E[q(τ)] 与成本 C(h)=E[c(τ)]，成本按 fresh/cached/output 三档 token 单价核算。部署偏好 π 有三种表达：加权和 h_weighted = argmax[Q−λC]；约束式 min C s.t. Q≥Q_min；Pareto 集（支配关系 h_a ≻ h_b ⟺ Q≥ 且 C≤ 且至少一严格）。核心决策规则：晋升事件 E = (ΔQ>0 ∧ ΔC≤ε_C) ∨ (ΔC<0 ∧ ΔQ≥−ε_Q)，即任一方向有进展且另一方向不严重倒退；贝叶斯 bootstrap 支持度 b̂_p ≥ γ 才晋升。

精妙之处：容差 ε_C 设为 +∞（不限局部成本增长）而 ε_Q=0.1（限局部质量损失）——这是对成本-进度耦合的非对称尊重：成本增长可能是真实任务进展的副产品，质量崩塌则难以靠后续演化恢复。

3.2 BASIN：给亚稳态一个可计算的判别式

具体问题：为什么 PD 分离 Agent 服务会在远低于稳态过载的负载上，被一个十分钟的激增拖入持续一小时以上的退化，且常规信号毫无预警？

抽象洞察：把活跃会话数 N(t) 看作流体，离开率由闭环需求、缓存复用与 decode 容量三者共同限制，则缓存命中率曲线的悬崖（cache cliff）让离开率曲线 D(N) 先升后降，与到达率 λ 相交出稳定平衡点 N_s 与不稳定平衡点 N_u——λ 介于低复用离开率 D_low 与离开率峰值 D(N*) 之间的部署，就是脆弱部署。

形式化：种群动力学 dN/dt = λ(t) − X(N)/K（K 为每会话平均调用数）。命中悬崖的种群约为 N_c ≈ 1.9C/c̄（C 为缓存容量、c̄ 为平均上下文），decode 内存饱和的种群约为 N_d ≈ D_KV/(f·c̄)（f 为活跃会话中在服务的比例）。缓存先于 decode 成为瓶颈的判别条件是 C ≲ D_KV/(2f)。带准入后的扩展：dN/dt = I(t)−D(N)，dQ/dt = λ(t)−I(t)。

精妙之处：模型不只解释失效，还给出各干预手段的作用位置——保序调度限制入口 I(t)、扩缓存抬高离开率峰值 D(N*)、准入显式约束预留和、shedding 处理 λ>D(N*) 的长期超额。BASIN 的每个组件都对应模型中的一项，这是机制对应性设计的范本。

四、问题解法

4.1 ParetoSaddler：五步迭代循环

把循环想象成一个带统计安检门的版本管理系统（类似 PR review 的 merge gate，但裁决依据是重采样分布而非单次 CI）：

1. 构造候选：底层 AHO 方法（AutoSaddler 实例化）在生成样本上执行父 harness，诊断失败与低效，产出定向补丁 h’_t = h_t + Δθ_t。输入是执行轨迹与 (质量,成本) 配对观测，输出是候选 harness。
2. 重复执行与联合证据：父子在同一筛查样本上各执行 R=3 次，得联合观测 Z={(q,c)}。重复执行揭示三类单次执行看不到的证据：跨 run 持续的失败（系统性缺陷）、同任务质量波动（不稳定行为）、全部成功但成本差异巨大（可避免的开销）。
3. 统计 Pareto 晋升：每次 bootstrap 抽取 j 中，对每个筛查样本的 R 次执行抽 Dirichlet(1^R) 连续权重（同一权重点乘质量与成本），跨样本平均得该次抽取的 (Q,C)；计算 ΔQ、相对 ΔC，判定事件 E；共 J=10,000 次抽取，b̂_p = 满足 E 的比例，≥γ=0.7 才晋升。贝叶斯 bootstrap 相比普通 bootstrap 的优势：连续权重不会把任何观测权重清零、平滑、且可解释为无信息先验下的后验。
4. 开发评估与候选保留：晋升者在 D_dev 上同样 R=3 次评估，进入全集 V_t 并更新经验 Pareto 档案 A_t。关键设计：V_t 保留所有评估过的候选（包括被支配的），供后续父代选择回溯。
5. 终选：预算耗尽后才应用部署偏好 π（加权和/约束式/Pareto 集三种），从 V 中选出返回的 harness。

4.2 BASIN：四个旋钮对应模型四项

BASIN 在 SGLang 的 PD 路由器前加会话网关，控制器每 Δ=30 秒（积压时 5 秒）运行一次，四个机制各自作用于 3.2 节模型中的对应项：

离线剖定：阶梯负载爬坡拟合悬崖刻度 κ（参考拐点 x_k≈1.9），并测峰值离开率 λ_c；多 prefill 实例按路由器分别剖定。保真设计：硬件原型实现到达时间排序+当前上下文准入，完整预测器版在已校准模拟器中评估，两者共享同一引擎成本模型。

五、评估指标与实验证据

5.1 ParetoSaddler 的指标体系与主结果

指标：主指标为质量（ClawMark 用归一化 stage-0 rubric 分，GAIA2 用 Pass@1）与成本（USD/任务，三档 token 计价，首次有效调用缓存 token 按新输入价计的冷启动口径）；消融指标为晋升数、测试操作点。数据集为两个长程 Agent 基准，均做域不相交（domain-disjoint）划分——ClawMark 按场景划分 50 训练/20 开发/22 测试共 92 任务，GAIA2 按 Universe 划分、300 测试任务。域不相交是设计关键：它检验 harness 更新能否迁移到未见过的任务域，排除背题。

主结果表（测试集，三次重复取均值）：

三个关键读数：其一，GAIA2 上质量 +11.9% 同时成本 −42.3%，双优；其二，PS-PARETOQ 比专攻质量的 AS-QUALITY 高 7.49/5.56 个百分点且更便宜——双目标不仅没牺牲质量反而提升了质量；其三，MH-MINCOST 在 GAIA2 上质量崩到 39.78，说明把部署偏好硬塞进无分级的全量评估循环同样有害。

三组受控消融（同初始 harness、同预算，只改一个变量）：单次执行 vs 三次执行——质量端点 75.71→81.35；均值门 vs 贝叶斯门——PS-PARETOQ 76.53@$1.15 vs 81.35@$1.01；Pareto 局部门 vs MinCost 局部门——11 vs 3 个候选获晋升，测试点 75.16@$0.82 vs 73.95@$0.90。稳定性：GAIA2 第二次完整优化运行 61.44-62.89%、$0.44-0.47，结论复现。预算公平性上 Meta-Harness 拿到 1.37×/1.22× 的任务执行预算，排除分级方法赢在算力的质疑。

5.2 BASIN 的指标体系与主结果

指标：goodput（每小时完成的、slowdown≤4 且 ≥95% decode 步满足 ITL SLO 的会话数——被拒/被 shed 记为失败）；辅助指标为中位/p90 TTFT、首调用等待、会话 slowdown。运行状态分类：trapped（末两个 20 分钟窗口持续退化且改善<25% 且命中率低于触发前≥0.10）、overloaded、recovering、healthy。真机部署：H200 1P3D（一节点四卡）与 H100 1P1D，Qwen3.6-35B-A3B FP8。

因果链证据（真机 SGLang）：基础负载 3.3 会话/分钟稳态 TTFT 中位 0.2s、命中率 0.95；+100% 十分钟激增后 TTFT 升至 60s、命中率跌至 0.27、此后一小时 goodput 123→43 会话/小时（surge 后到达的会话仅完成 17 vs 无激增 138）；+33% 激增二十分钟内自愈。决定性的残留会话实验：注入 4× 短会话激增，第 25 分钟杀掉全部 burst 会话则两分钟恢复；放任自流则基础会话持续累积至无激增对照的 1.7×（50 分钟）与 2.4×（90 分钟）——退化由累积的种群维持，这是亚稳态的因果证明。

模型验证：36 个模拟部署中流体模型标记全部 17 个 cache-first 案例（总体 28/36=78%）；固定激增后状态、仅改后续到达率即可反转结局（GPU-only +300% 后 0.1λ_ref 恢复、0.2λ_ref 困死）；发现缓存滞后——崩溃后在 1.6-1.7× 容量的工作集上命中率仅 0.26-0.37，而健康运行在同工作集保持 0.81-0.93。

真机对比（H200 1P3D 四场景：×5 激增、GPU-only、工具时间×3、SWE-bench Pro）：

SWE-bench Pro（中位峰值上下文 107K）上 BASIN 126.7 vs Continuum 106.0 vs CONCUR 86.0 会话/小时。模拟完整预测器版：六端到端场景 goodput 全部最高（最强基线的 1.20-2.05×）；3-6× 激增扫描全程避免 trapping、完成 ≥95% 会话、shed ≤2.2%；45 分钟切入已困死引擎的恢复实验中 BASIN 301.1 vs Continuum 167.8 会话/小时。机制消融：去优先级排序后 GPU-only 场景 goodput 只剩 0.31-0.34；去借出后 GPU-only 剩 0.50-0.89；去准入后 host-tier 场景剩 0.62-0.82；精确峰值替代预测器再 +1.27-1.35×。模拟器保真经 13 个未参与拟合的 H200 运行核验（多数 2-12% 误差）。

六、效果优势的根源解释

6.1 根源机制与证据链

ParetoSaddler 因果链一：偏好前置误杀中间态。 部署偏好在筛查期过滤 → 局部不划算但铺垫后续的更新被丢弃 → 搜索被困在成本墙。证据：受控门消融中 Pareto 门 11 个晋升 vs MinCost 门 3 个；轨迹分析显示 I-11 局部增成本 10.5%（质量 83.65→87.62），MinCost 门必拒，但它是通往 I-14/I-16 的必经节点；案例 I-7 局部看似质量降 1.33 点成本降 17.22%（质量门必拒），开发评估却双赢（72.94@$0.88 vs 父代 72.27@$1.13）。【论文实验已支持】

ParetoSaddler 因果链二：均值聚合高估弱支持增益。 执行随机性（质量 CV 18.8%、成本 CV 25.6%）→ 均值点估计掩盖收益的跨 run 不稳定 → 假增益进入开发评估并成为父本污染后续搜索。证据：I-12 均值满足门限（质量 −5.55 点、成本 −7.19%）但 bootstrap 支持仅 0.55——其成本收益几乎全部来自单一任务（该任务质量同时暴跌 44.33 点），其余两任务反而更贵；回顾性开发评估证实 I-12 比父代质量差 2.80 点、贵 10.66%。端到端消融：贝叶斯门 81.35@$1.01 vs 均值门 76.53@$1.15。【论文实验已支持】

ParetoSaddler 因果链三：多目标化本身逃局部最优。 引入成本目标改变了搜索地形——质量饱和的 mini-batch 上成本仍提供晋升信号（GAIA2 案例 I-9：筛查质量全 100% 时纯质量门无路可走，Pareto 门凭 40% 成本降幅放行，开发评估质量反升 1.54 点），等价于把 Knowles 2001 的多目标化结论实例化到 AHO。【论文实验已支持；与经典理论的对应关系为阅读者推测的连接，但该理论本身有独立文献支撑】

BASIN 因果链一：种群-缓存反馈是维持效应。 部分开放负载（新会话独立到达、会话内闭环）+ 98% 前缀重复 → 慢调用延长会话生命 → working set 膨胀过悬崖（≈2× 容量）→ 驱逐与重算洪峰（uncached prefill 2.5K→28-35K tok/s，贴着 31K 饱和线）→ 离开率跌破到达率 → 种群自增殖。证据：真机杀会话 2 分钟恢复 vs 放任持续退化；+33% 与 +100% 的分界正是是否越过悬崖。【论文实验已支持】

BASIN 因果链二：常规信号盲区源于资源错配。 事发前利用率/队列/KV 占用富余，是因为脆弱性来自 C 与 D_KV 的比值（C ≲ D_KV/(2f)）而非绝对占用；等待 prefill 的请求占住 2/3 decode KV（97% 满但 decode 请求数减半）进一步说明占用数字与有效容量的背离。推论：弹性伸缩按利用率扩容无法预防此类失效。【论文实验已支持】

BASIN 因果链三：滞后决定恢复难度。 崩溃后被驱逐前缀须重算才能重新可用，同工作集下命中率仅 0.26-0.37（滞后），故恢复期离开率被压在 D_low（实测 0.20-0.31×λ_ref）——这解释了为什么必须同时限制入口（准入）、抬高离开峰值（借出）并处理超额（shedding），单一手段都不够。各旋钮消融的互补性（GPU-only 去借出 0.50-0.89、host-tier 去准入 0.62-0.82）与之吻合。【论文实验已支持】

BASIN 因果链四：为什么借内存而非借算力。 Crossflow 借 decode 算力导致 prefill 与生成互相干扰（对每 chunk 固定开销敏感，加 20ms/chunk 后高负载场景 goodput 从 76 跌到 5）；BASIN 只借空闲内存、prefill 计算留在 prefill 实例、decode 分配优先回收借出页，goodput 对该开销不敏感。内存是弹性资源中扰动最小的一档。【论文实验已支持】

6.2 相关工作检索与对照

围绕上述因果链做外部检索（检索词覆盖 metastable failure agent serving / multi-objectivization harness / Pareto prompt cost / prefix cache admission 等，2026-11-04 执行）：

在本次检索范围内未发现：直接研究 AHO 晋升规则与部署偏好分离的先行工作（ParetoSaddler 的分离主张目前看是首提）；以及在 PD 分离 Agent 服务上做激增后因果干预（杀会话/改到达率）的先例（BASIN 的干预设计是首例）。二者均属论文的增量所在，暂无外部复现。

6.3 综合判断与未决问题

多项研究共同支持的机制：(1) 亚稳态框架的有效性——HotOS/OSDI 谱系与 BASIN 的真机干预互相印证，种群-缓存反馈作为新维持效应的论证链完整；(2) 多目标化对搜索地形的改善——Knowles 2001（组合优化）与 MO-CAPO（提示级）从不同场景给出与 ParetoSaddler 一致方向的结果；(3) 噪声下用分布而非点估计做选择——bootstrap 系方法在多个领域的稳定表现与本文消融一致。

仍属推测的部分：(1) ParetoSaddler 的 γ=0.7、ε_Q=0.1 等超参的跨域普适性仅有两个基准的局部稳定性扫描背书，换到短程任务或极便宜评估的场景，重复执行的边际价值可能不同；(2) BASIN 的峰值预测器是简单线性特征回归（rank 相关 0.56-0.64），论文自己展示精确峰值可再 +1.27-1.35×，说明当前增益并非机制上限，但也提示预测误差结构（而非幅度）对排序质量的影响未被完全理解；(3) 两篇论文均未覆盖的中间地带：harness 级优化产生的行为变化（如调用次数、上下文长度分布）会直接改变下游 serving 的工作负载——离线轴与在线轴的联合优化无人触及。

优势成立的条件与可能的失效条件：ParetoSaddler 在评估昂贵、执行高方差、成本-质量耦合的长程场景中最有价值；若评估极便宜（可直接全量评估），分级筛查本身失去意义，方法退化为普通多目标搜索。BASIN 在 cache-first 部署（C ≲ D_KV/(2f)）中收益最大；decode-first 部署（如 H100 1P1D）中借出无空间、收益主要来自排序，论文诚实报告了该场景下原型与 Continuum 打平；colocated（非分离）部署需重推导共享资源池的模型界。会话间有父子依赖的工作流（multi-agent 编排）也不在当前轨迹假设内。

未决问题清单（跨两篇）：

1. 晋升规则的样本效率：R=3 次重复在临界候选上的 bootstrap 支持度估计仍敏感于偶然观测，更大 R 的收益-成本曲线未刻画。
2. 亚稳态的在线检测：流体模型给出部署级判别式，但运行时能否在跨越不稳定平衡点的瞬间（而非事后）识别，论文未给出在线检测器。
3. 双轴闭环：harness 优化改变调用模式（更少调用、更长上下文）会移动 serving 侧的悬崖位置；两个系统各自的增益在联合部署下是否可加，完全开放。
4. 跨模型/跨架构泛化：ParetoSaddler 只测了两个基准；BASIN 只测了一个混合 MoE 模型（全注意力模型的命中率曲线与每 token KV 尺寸不同，判别式需重校准）。

七、必要知识反推

假设让一个没有背景的人重做这两项工作，最少必须知道什么？

7.1 领域知识层

• Agent/harness 解剖学：必须理解 harness 的组成（提示/工具/中间件/控制逻辑）与执行模型（随机轨迹、工具间隙、会话生命周期）——不理解就无法定义 Q(h)、C(h) 或 working set。ParetoSaddler 作者需要知道长程任务中成本与进度的耦合（提前终止假便宜），这是识别错配的前提；BASIN 作者需要知道 Agent 负载的部分开放性（新会话独立到达、会话内闭环）与 98% 前缀重复率，这是反馈回路存在的前提。
• 推理引擎机制：PD 分离的算力/内存特征、radix tree 前缀缓存与 LRU 驱逐、decode KV 预留时机（SGLang 在 prefill 前预留——这解释了为何 prefill 积压会占住 decode 内存）。缺少任何一环都无法推出 C ≲ D_KV/(2f)。

7.2 方法论知识层

• 多目标优化理论：支配关系、Pareto 前沿、多目标化减少局部最优的经典结果（Knowles 2001）——ParetoSaddler 的核心设计（任一方向进展即可晋升）直接由此推导。
• 贝叶斯 bootstrap：Rubin 1981 的 Dirichlet 加权后验解释——不理解连续权重与普通重采样的差别，就无法论证为何均值门会高估弱支持增益。
• 排队/流体模型：Little 定律、流体极限、双平衡点分岔——BASIN 的 dN/dt 模型与稳定/不稳定平衡点是经典种群动力学在缓存系统的移植。
• 操作系统内存管理：Denning 工作集模型与页错误频率控制——BASIN 的会话级准入是这两条 1968/1972 年原则的现代表达。
• 亚稳态失效文献：HotOS 2021/OSDI 2022 的触发器-维持效应框架——没有这个框架，观察到的现象只是又一起性能事故，而非可命名的系统现象。

7.3 工程知识层

• 基准与评估协议：domain-disjoint 划分的意义（防背题）、三档 token 计价与冷启动核算口径——成本目标的可信度全靠核算细节。
• 真机实验设计：轨迹重放（216 条 Terminal-Bench、7108 次调用）、Poisson 到达、warm start、杀会话对照——因果归因能力来自这些对照设计而非系统本身。
• 模拟器校准方法：按 token 位置相关的 prefill 成本、批大小与上下文相关的 decode 步时拟合；13 个留出运行核验——让模拟结论可信的标准做法。

7.4 知识融合的关键节点

两篇论文各有一次决定性的知识化学反应。ParetoSaddler 的节点是：把进化计算中搜索引导≠选择目标的洞察，移植到分级 AHO 的晋升门上，并用统计学的 bootstrap 工具解决移植后的噪声裁决问题——三个领域的知识在三行公式（晋升事件 E、支持度 b̂_p、门槛 γ）里合体。BASIN 的节点是：把亚稳态框架的定性叙事（触发器×维持效应）翻译成排队论的定量对象（离开率曲线的双平衡点），再反向映射回系统设计的四个旋钮——从现象到公式再到机制对应的设计，每一步都依赖跨域知识的精确对接。

八、论文中可以提取的通用性灵感

灵感一：探索期与交付期的偏好应当分离。 核心思想：任何迭代改进系统中，中间保留规则与最终选择规则服务于不同目的，前者应宽松（保留多样性），后者才执行约束。论文证据：Pareto 门 vs MinCost 门的 11 vs 3 晋升与更好的测试操作点；MH-MINCOST 在 GAIA2 上质量崩溃 16 点。推广场景：数据库查询计划的中间计划保留、代码重构中的中间提交策略、课程学习中的样本调度、产品 A/B 实验的探索池管理、供应链中的候选供应商池维护。

灵感二：点估计会撒谎，分布才会坦白。 核心思想：在高方差环境下，用重采样分布的支持度而非均值差异做保留决策，可以滤掉集中在个别样本上的假增益。论文证据：I-12 均值合格但支持度 0.55，其收益全押在单个任务上且该任务质量同时暴跌。推广场景：临床试验的多中心证据汇总、金融策略回测的稳健性筛查、模型融合中的弱学习器筛选、招聘/投资中的多信号一致性问题、可靠性工程中的间歇故障判别。

灵感三：给每个组件找一个模型项。 核心思想：系统设计时先建立问题的形式模型，再让每个控制旋钮显式对应模型中的某一项，机制对应性优于功能堆叠。论文证据：BASIN 的表 1 把四个机制逐一映射到 dN/dt 方程的项，消融结果与映射吻合。推广场景：微服务过载控制的依赖建模、建筑结构冗余设计、经济体政策工具的传导渠道设计、编译器优化的代价模型。

灵感四：生命线的冗余要建在最廉价的一档。 核心思想：关键资源（前缀缓存）的弹性扩容应选择扰动最小的资源形态——借空闲内存优于借算力，因为后者引入抢占干扰。论文证据：Crossflow 借算力后对 20ms/chunk 的固定开销都敏感（goodput 76→5），BASIN 借内存则对该开销不敏感。推广场景：CDN 回源的分层降级、数据库读写分离 vs 弹性抢占、边缘计算中存储转发优先于计算迁移。

灵感五：滞后现象要求恢复策略与预防策略不同。 核心思想：有滞后的系统（缓存、磁滞、声誉）从坏状态回来的代价远高于保持在好状态，恢复需要按坏状态的低容量规划而非好状态的容量规划。论文证据：崩溃后同工作集命中率仅 0.26-0.37（滞后），恢复需要把到达率压到 D_low 之下而非回到原负载。推广场景：团队士气与人员流失的重建、生态系统的不可逆退化阈值、品牌信任的修复成本、再入院病人管理。

灵感六：多目标是质量的朋友而非敌人。 核心思想：为一个主目标优化时，显式引入第二目标常能改善主目标本身——第二目标打破了原问题地形中的虚假平台。论文证据：PS-PARETOQ 比纯质量的 AS-QUALITY 高 7.49/5.56pp；GAIA2 案例 I-9 在质量满分平台上靠成本信号继续进化。推广场景：模型压缩中精度-时延双目标常获更高精度解、路线规划的鲁棒-最优权衡、健身训练中的力量与柔韧性互促。

附录：双篇对照速览

注：核心实验数据已纳入第五部分，本附录仅做横向对照，不重复数据。