论文链接：Optimal Skill Selection for LLM Agents with Provable Bicriteria Guarantees 发表时间：2026年8月 机构：清华大学交叉信息研究院（IISS，姚班/智班所在院系；通讯作者 Longbo Huang） 领域标签：cs.AI / 组合优化 × LLM Agent
一、论文背景
1.1 什么是 Skill：往上下文里装的「岗位操作手册」
现代 LLM Agent（Codex、Claude Code、Gemini CLI 等）普遍采用一套「技能」机制来扩展模型参数知识之外的能力。一份技能就是一个文件夹：一份 SKILL.md 主文档，加上可选的参考文档、脚本和模板。它本质上是一份可复用的操作手册——比如「如何用 pkzip 库做二进制压缩」「如何提交合规的迁移 PR」。
技能机制能够运转的关键是渐进式披露：会话启动时，模型只看到每份技能的名字和一行描述（几十 token）；只有当任务匹配时才加载完整文档（通常 5000 token 以内）；脚本只在指令调用时执行，其输出而非代码进入上下文。这套三层加载让 Agent 只携带一个轻量目录，按需拉取细节。
1.2 两阶段架构：选择与执行都被上下文窗口卡死
生产级 Agent 的技能交互是两阶段的：选择阶段，LLM 审阅每个已安装技能的元数据（名字+描述），按当前查询挑出若干技能；执行阶段，被选中技能的文档被加载进上下文窗口，模型据此解题。
但两阶段都被有限上下文窗口卡住：
- 选择阶段：上下文成本随技能库规模线性增长。公开技能注册表已有数万份可安装技能，库到几百上千份时，光元数据就可能超出预算，让「LLM 逐个审阅」的选择方式直接不可行。
- 执行阶段：被选技能文档 + 任务输入再吃掉一块上下文。这部分是真正的稀缺资源。
1.3 现状：独立打分 + 贪心装包，无质量保证
现有技能选择机制（检索、路由、注入、打包）大多遵循同一个启发式模板：对每份技能按语义相关度独立打分（BM25、稠密检索、学习到的偏好），然后用 top-k、截断或贪心装包组装成集合。这套模板有两个结构性盲区：
- 忽略装包时的上下文成本——加载被选文档要在执行时付出 token 代价，而这代价从未进入决策。
- 忽略技能间的组合关系——能力重叠（冗余）与互补完全未被建模。
后果有实证支撑：选错技能会让 pass 率最多掉 21%；更刺眼的是，在 87 个基准任务的 13 个上，精心挑选的技能集把成功率压到了无技能基线以下——装技能比不装还差。
1.4 为什么「独立打分」在机制上就错了
论文用图 1 给出定性证据，这也正是本工作的起点。设固定执行器为 Qwen3-32B，任务需要一个「先 zip 再 base64 编码」的管线，所需私有 API 只能通过技能文档获知：
- 互补：只覆盖单个能力（pkzip_core 或 pk64_core 单选）成功率 0%；两者组合 93%。单独看每份技能的「语义相关度」都无法预测这一点，因为价值在集合上。
- 冗余：两个能力都覆盖后再加一份冗余技能 pk64_snip，多耗 225 token，只提升 1 个百分点。
- 干扰：加一份语义相关但任务无关的 pk64_extra，直接掉 23 个百分点。
三条观察合起来，把技能选择从「给技能排名」变成了「预算约束下的集合级决策」——这正是本文的切入点。
二、论文定位和关联工作
2.1 谱系一：LLM Agent 的技能检索与路由
这条线继承自工具使用的检索管线（ToolLLM 等）：SkillRet、SkillRouter、SkillSight 等先把大技能库收窄为候选池，交给下游选择。更贴近选择本身的有：SkillsInjector（学习注入多少份技能并联合渲染）、SkillSelect-Serve（在 token 与部署约束下贪心打包逐项分数）、Graph-of-Skills（依赖感知的技能束扩展，预算目标未被求解）、GoSkills 与 SkillComposer（组装有界技能组/自回归子集）。这些启发式没有一个对注入集合给出可证保证。
有保证的近邻选择的对象不同：PACMS 把 facility-location 覆盖用于会话内容的选择，属于 token 背包下的上下文选择；Yuan 等的 knapsack composer 在线接纳 agent 组件，给竞争比。本文与其区别：为固定执行器的技能选择建模，显式处理集合级冗余与互补。
2.2 谱系二：正则化次模最大化
「次模收益减线性惩罚」是组合优化的老朋友（收益最大化、影响最大化、数据选择都在用），技能选择只是把它在上下文窗口这个新约束上重新实例化。理论侧的关键节点：
- 纯收益 + 背包：Khuller 等的 budgeted maximum coverage 与 Sviridenko 的密度贪心 + 三元种子枚举达到紧的 1−1/e；Kulik 等把枚举缩到二元（本文证明直接借用此 refined analysis）。
- 正则化目标：目标可能为负，任何常数乘近似都不存在（Nikolakaki 等），于是引入双准则近似。distorted greedy（Harshaw 等）只在基数约束下达到 (1−1/e, 1)。
- 背包约束下的正则化目标：此前的结果各有妥协——Ψ-greedy（Perrault 等）要付 κε 加性损失与 O(B/ε) 预算层；budgeted-profit 系列只有 (1/4, 1)、((1−1/e)/2, 1/2)、(1/8−ε, 1)；Feldman 只给分数解。本文的 (1−1/e, 1) 无任何妥协，且收益系数被 Feige 定理卡死为多项式时间最优。
2.3 定位总结
| 维度 | 之前的路线 | 本论文的突破 |
|---|---|---|
| 选择决策粒度 | 每技能独立打分（top-k/贪心装包） | 集合级优化，显式建模冗余/互补 |
| 上下文成本 | 装包阶段不感知 | 线性惩罚进入目标 + 硬 token 预算 |
| 质量保证 | 无（工程启发式） | 首个保证：双准则 (1−1/e, 1)，收益系数最优 |
| 目标函数来源 | 语义嵌入相似度（代理） | 从执行记录拟合，误差可证转移到regret |
| 评测 | 公共基准（可被预训练知识解掉） | 污染受控、能力被门控的私有 fork 基准 |
一句话定位：这是第一篇给 LLM Agent 技能选择建立结构化模型与可证保证的论文——把一个工程问题翻译成了带精妙新证明技术的经典近似算法问题。
三、问题定义
3.1 从具体场景到抽象结构
具体问题：给定查询 q 和技能库 L = {s₁,…,s_L}，选哪个子集 S 注入固定执行器 E 的上下文，使执行效果最好？
关键洞察在于：执行效果 F*(q,S) := 𝔼[Y(q,S) − Y(q,∅)] 是黑盒——它依赖冻结的 E、q 和 S 的整体交互，不可直接优化。要优化它，必须先回答「技能集合到底通过什么机制改善执行」。
论文的答案是一个能力视角的类比：
| 深度学习/经典概念 | 本文对应物 |
|---|---|
| 特征维度 | 潜在能力维度 k（如 git 操作、日志分析、压缩编码） |
| 样本特征向量 | 技能 i 的能力供给向量 u_i ∈ ℝ₊^d |
| 查询/标签权重 | 查询 q 的能力需求向量 w_q ∈ ℝ₊^d |
| 激活函数（饱和） | 凹函数 h_k(x) = 1 − e^(−x)：边际收益递减 |
| 覆盖收益 | 次模收益 G(S) = Σₖ w_q,k · h_k(Σ_{i∈S} u_{i,k}) |
| 正则项 | 线性上下文惩罚 c(S) = κ·ℓ(S) |
| 显存/参数预算 | 硬 token 预算 B，可行域 F_B = {S : ℓ(S) ≤ B} |
3.2 形式化问题
$$\max_{S:\,\ell(S)\le B}\; F(S) := \underbrace{\sum_{k=1}^{d} w^q_k \cdot h_k\Big(\sum_{i\in S} u_{i,k}\Big)}_{\text{次模能力收益 } G(S)} \;-\; \underbrace{\kappa\,\ell(S)}_{\text{线性上下文惩罚}}$$给定：技能库、每份技能的 token 长度 ℓ_i、拟合出的 G 与 κ、预算 B。求：可行技能集 S。约束：总长不超预算。
这个抽象的精妙之处有三：
- G(S) 单调次模：同维度供给凹聚合 → 冗余技能自动边际递减（「同维度二选一」）；跨维度加权求和 → 不同能力互补（「覆盖所有被需求维度才有高收益」）。且 G 的量纲近似对数成功率——跨维度成功率相乘对应对数空间相加。
- 惩罚 κ·ℓ(S) 与预算约束共享同一长度坐标：这个「对齐」看似平凡，却是后文证明技术（预算对齐插值）成立的全部前提。
- 参数不可观测但可学：只有 ℓ_i 可直接观测，u_i、w_q、η、λ、κ 都是潜在量。但目标只需有效量（如 η_k·w_q_k 的乘积），因此可直接从执行记录 (q, S, Y(q,S)) 用两个非负输出层的编码器 + 联合校准的 κ̂ 拟合。
误差转移（Proposition 1）：若拟合目标在可行域上一致逼近真执行效果（|F* − F̂| ≤ ε），则任何在 F̂ 下 δ-近优的集合 Ŝ，其真实选择regret ≤ 2ε + δ。拟合误差与优化误差线性分解、可证聚合——这一条把「学习」与「优化」两阶段安全地缝在一起。
3.3 这个问题的计算难度
- κ=0 时特化为 budgeted maximum coverage：NP-hard，且除非 P=NP 无优于 1−1/e 的近似（Feige 1998）。
- κ>0 时 F 可能为负、非单调：任何常数乘近似在多项式时间内不存在。
于是合理的目标只能是双准则近似：找一个 S_BPS 使得 F(S_BPS) ≥ α·G(T) − κ·ℓ(T) 对任意可行 T 成立——收益打折、惩罚全额照付。
四、问题解法：BPS 与预算对齐插值
4.1 算法本体：Best Prefix Selection
BPS 是「部分枚举密度贪心 + 前缀池取最优」，流程直白：
- 丢弃超长技能（ℓ_i > B）；
- 枚举种子：所有 |A| ≤ 2 且 ℓ(A) ≤ B 的种子 A；
- 密度贪心生长：从每个种子出发，迭代加入边际收益/token 密度最高的可行技能，记录链上每个可行前缀入池 P；
- 取最优前缀：S_BPS = argmax_{S∈P} F̂(S)。
类比：经典背包贪心按「价值密度」装包；Sviridenko 用三元种子枚举证明 1−1/e。BPS 继承这套骨架（种子缩为二元，跟随 Kulik 等 2021 的 refined analysis），但有一个关键的新动作——记录每个前缀并按 F̂ 全局取最优。
为什么要记前缀？单调目标下链尾支配一切前缀，老分析只比端点；但 F̂ = Ĝ − κ̂ℓ 非单调，最优解可能停在链中间——装到某一步就该停手，多装只会被惩罚拖垮。Best Prefix Selection 由此得名，灵感来自 ParetoGreedy 的候选生成。
复杂度 O(dL⁴)：O(L²) 个种子 × 每链至多 L 步 × 每步扫 O(L) 候选 × 每次边际评估 O(d)。注意 L 是高召回检索阶段留下的短名单规模，不是整个注册表。
4.2 主定理：双准则 (1−1/e, 1) 近似
Theorem 1：设 Ĝ 归一、单调、次模，ℓ_i > 0，κ̂ ≥ 0，则
$$\hat F(S_{\mathrm{BPS}})\;\ge\;\alpha\,\hat G(T)-\hat\kappa\,\ell(T),\quad \forall T\in\mathcal F_B,\;\;\alpha=1-1/e.$$两个系数的含义：BPS 至少恢复任意可行集收益的 (1−1/e) 倍，同时全额承担其上下文惩罚。收益系数 α 由 Feige 定理卡死为多项式时间最优；与近邻工作相比是首个同时做到「正则化目标 + 异质长度的背包约束 + 积分解输出 + 零加性损失」四项的保证。
结合 Proposition 1 得端到端regret（Corollary 1）：F*(S*) − F*(S_BPS) ≤ (1/e)·G(S*) + 2ε——优化损失不超过最优集收益的 1/e，再叠两倍拟合误差。
4.3 证明的三步骨架与「预算对齐插值」
证明对任意可行比较集 T 展开，三步：
第一步：种子构造 + 残差函数。 把 T 的元素按边际收益贪心排序，取前两个做种子 J = {t₁, t₂}（BPS 必然枚举到它）。定义残差 f(U) := Ĝ(J∪U) − Ĝ(J)，把「链之外」的收益分离出来。由次模性与贪心排序可证种子已吃掉至少 2/3 的边际量（|T|=3 时直接收工）。取 P = T∖J 中最长的元素 v*，令 r = ℓ(P∖{v*})——去掉最长项是后续可行性的伏笔。
第二步：轨迹函数被分段指数 bounding function 压住。 把密度链的累计残差收益写成长度坐标上的分段仿射轨迹 V(u)（断点处等于真实前缀残差收益）。构造一个两段指数的 bounding function φ(u)：第一段以速率 1/d₁ 饱和到 f(X₁)，第二段以速率 1/D 饱和到 f(P)，转移点 D₁ 恰在两指数相交处（X₁, X₂ 是 P 的两个块，按密度排序）。用微分不等式 + 积分因子逐段传播，可证 V(u) ≥ φ(u) 在 [0, r] 全程成立（Lemma 3，动态半）；再由 log-sum 不等式与 C ≥ 2x 的种子优势，证 Ĝ(J) + φ(r) ≥ α·Ĝ(T)（Lemma 4，静态半，分三种结构情形）。这一步改编自 Kulik 等的 refined analysis，是标准的连续化手段。
第三步：预算对齐插值——从分数界回到整数前缀。 这才是本文的独家技术。第一、二步只给出分数点 r 上的界：Ĝ(J) + V(r) ≥ αĜ(T)。但执行器只接受整数技能集，必须落在某条链的某个记录前缀上。设 r 落在第 j 段内，存在 λ∈[0,1] 使 V(r) = (1−λ)f(A_{j−1}) + λf(A_j) 且 r = (1−λ)ℓ(A_{j−1}) + λℓ(A_j)。关键：惩罚 κ̂ℓ(·) 是同一个长度坐标的同一个线性函数，于是收益的凸组合与长度的凸组合可以合并：
$$(1-\lambda)\hat F(J\cup A_{j-1})+\lambda\hat F(J\cup A_j)=\hat G(J)+V(r)-\hat\kappa(\ell(J)+r)$$右端 ≥ αĜ(T) − κ̂ℓ(T)（用 ℓ(J)+r = ℓ(T) − ℓ(v*) ≤ ℓ(T)）。而凸组合 ≤ max，故两个相邻记录前缀中至少一个满足 F̂ ≥ αĜ(T) − κ̂ℓ(T)。最后 Line 11 在全池取最优，单个输出 S_BPS 对所有 T 同时成立。∎
直观理解预算对齐插值：分数解在链上「悬空」于两个整数前缀之间；正因为惩罚和约束共享长度坐标，这个悬空点的目标值恰是两个整数前缀目标值的仿射插值，于是分数界必然被某个整数端点继承。若惩罚是长度以外的任何其他函数（比如按文档数、按平方），这条插值路径当场断裂——这也解释了为什么此前的背包正则化结果都要付加性损失：他们没有这个对齐可用。
4.4 方法全景
| 组件 | 输入 | 输出 | 作用 |
|---|---|---|---|
| 能力供给/需求编码器 | 技能文档 / 查询文本 | û_i, ŵ_q ∈ ℝ₊^d | 估计潜在能力向量（有效量） |
| 灵敏度校准 | 执行记录 | κ̂ | 每 token 上下文退化率 |
| 拟合目标 F̂ | 编码器输出 + κ̂ | 标量 | F̂(S) = ⟨ŵ_q, h(Σû_i)⟩ − κ̂ℓ(S) |
| BPS（Algorithm 1） | 库、预算 B、F̂ | 技能集 S_BPS | (1−1/e, 1) 近似求解 |
部署形态上，编码器可为查找表（固定任务集与库，论文主实验，281 参数）或神经编码器（text-embedding-v4 投影到 64 维，先标注 warm-up 再在线 pass/fail 反馈训练），BPS 不变。
五、评估指标与实验证据
5.1 测试床：污染受控的 BigCodeBench 变体
公共代码基准无法测技能选择：Qwen3-32B 在原始 BigCodeBench 上裸跑就有 85% 通过率——预训练里早见过。论文的对策是 fork 基准并做三重控制：
- 私有模块：16 个私有模块、5 个能力族，调用面（如
pkzip.lade扮演zlib.compress但 XOR 载荷并加私有头；pk64.enrobe用重映射字母表做 base64）从任务文本不可猜，只在技能库里文档化。 - 任务门控准入：只有「私有模块解通过测试 ∧ 标准库解失败 ∧ 每个单能力混合解也失败」的任务才被收编——不足三分之一的 fork 任务过门。
- 技能库：47 份手写文档取 31 份成库：单模块技能（短片段到完整教程）、双模块手册、以及只覆盖相似名函数的干扰项。
全部结论建立在 63,596 次真实测试套件执行之上。这个设计的证明力在于：执行表现只能来自选中的技能——选择质量与执行成功被强制因果耦合。
5.2 指标体系与核心数字
三层指标对应三层主张：
（A）拟合目标有效性（模型对不对）——held-out 预测 + 参数恢复：
| 价值模型 | 参数量 | 排序准确率（外推/unseen-doc） | 选中集成功率 |
|---|---|---|---|
| 结构化目标（本文） | 281 | 最优，预测成功率误差 ≤ 1pp | 0.674（经验天花板 95%） |
| DeepSets | 16.9k | 略低 | 0.640（差距与零不可区分） |
| Datamodels | 672 | — | 0.279 |
| Additive fit | 672 | — | 0.202 |
| Shapley | 651 | — | 0.156 |
| 线性响应（消融） | 281 | — | 0.144 |
| Set Transformer | 16.6k | — | 0.049 |
- 排序协议：外推（只训 ≤2 技能的集合，预测 ≥3 技能集合）、unseen-doc（某技能只单独出现，预测其组合）——专测集合级外推能力，独立打分类模型在此结构性崩溃。
- 参数恢复：拟合出的 û_{i,k} 在 155 个（技能，能力）对上把「被覆盖对」排在「未覆盖对」之上的比率 99.6%（AUC 0.996）——只从 pass/fail 记录学出了隐藏的能力覆盖矩阵。
- 消融「线性响应」去掉凹饱和只剩 0.144：边际递减不是装饰，是拟合泛化的来源。
（B）优化质量（求解器好不好）——80 个拟合选择实例，穷举找精确最优：
| 规则 | 达到精确最优比例 | 平均目标差距 |
|---|---|---|
| BPS | 100% | 0 |
| Best-of-100 随机 | 45% | 0.03 |
| 密度贪心（不记前缀） | 44% | 0.05 |
| DPP-MAP | 7.5% | 3.51 |
| MMR | 7.5% | 3.69 |
| Top-k | 7.5% | 4.36 |
定理 1 只保证最坏情形的 (1−1/e, 1)，实测 BPS 在全部 80 实例达到精确最优（Proposition 1 的 δ 项实测为 0）；独立打分规则的平均差距比集合级规则大近两个数量级。
（C）端到端选择质量（系统级）——同一冻结执行器上真执行：
| 系统 | 实测成功率 |
|---|---|
| BPS（查找表） | 0.73 |
| BPS（神经编码器，716 token） | 0.68 |
| 执行器自选（progressive disclosure） | ≈0.51 |
| SkillRouter（最强已发布路由器） | ≈0.43 |
| 检索器与其余 | 0.20–0.43 |
已发布路由器/检索器全面落后 BPS 0.30–0.53，执行器自选也落后 0.22；BPS 还比最强路由器少注 28% token。论文对 baseline 失败的诊断很有信息量：这些系统很少选中干扰项——它们选的是文本与任务匹配的技能，而文本匹配≠能力覆盖。
5.3 实验设计为何能证明主张
- 要证「形式化正确」→ 用参数恢复（学出隐藏覆盖矩阵）+ 外推协议（结构化目标在没见过的组合上仍准）双重锁定，而非只报拟合精度。
- 要证「保证非虚」→ 优化实验把目标冻结、只换求解规则，把 δ 项单独隔离测量。
- 要证「系统级有效」→ 污染受控 + 能力门控让「无技能必失败」，选择与成功强制因果；所有 baseline 用作者发布的官方实现，同库同预算。
六、效果优势的根源解释
BPS 的全面胜出不是工程调参的巧合，而是决策结构的必然。把因果链拆开：
基线的根本局限：单体打分在信息上就是不足的。 top-k / 检索 / 路由的决策单元是「单个技能的相关度分数」。但上下文价值是查询依赖且集合级的（论文观察 (i)）：同一份技能的边际贡献取决于集合中已有的能力组合——补集技能对的价值在单份打分里不可见（单选全 0%），冗余技能的无效也在单份打分里不可见（分数照样高）。这不是打分器不够强的问题：「补集/冗余」本身就是集合上的二元关系，单体评分函数在数学上无法表达它。MMR、DPP 试图用「与已选集合的相似度折扣」修补，但折扣方向单一（只惩罚相似、不识别互补何时是必需），实验里它们达到精确最优的比例仅 7.5%。
本文的结构性改变：把「语义相关度独立打分」换成「集合级优化」。 次模收益 + 线性惩罚 + 硬预算的目标函数改变了三件事：
- 信息流：决策依据从「文档文本像不像任务」变成「执行记录里这个集合实际表现如何」——拟合从 pass/fail 记录直接学习执行效果，绕过了「文本相似 ≠ 能力覆盖」的错位（这正是 baseline 选中「文本匹配但能力不符」技能的根因）。
- 约束表示：token 成本从「装包时忽略」变成目标函数里逐 token 记账的惩罚项 + 不可逾越的硬预算。于是「该停就停」成为可能——非单调目标下最优解在链中间，BPS 记录全部前缀取最优，天然获得早停能力；贪心装包只能装满。
- 可分性：冗余与互补被显式区分——同维度凹聚合使重复覆盖边际递减（冗余技能自动贬值），跨维度加权使覆盖全部被需求维度才有高收益（补集技能自动升值）。图 1 的三种情形（互补 0%→93%、冗余 +225token/+1pp、无关 −23pp）在这个目标下分别对应「跨维度求和高边际」「同维度饱和低边际」「无收益纯惩罚」。
因果链汇总：
- 集合级目标 + 从执行记录拟合 → 学到能力覆盖而非文本相似 → 选中集命中率升（0.73 vs 0.20–0.52）；
- 线性惩罚进入目标 → 每个 token 有价格 → 不为边际递减的冗余付钱 → 同成功率下 token 更少（比最强路由器省 28%）；
- 次模 + 背包的经典结构 → 可用密度贪心 + 部分枚举 + 前缀取优 → 多项式时间且带 (1−1/e, 1) 保证 → 实测 100% 精确最优。
反事实验证：去掉凹饱和（线性响应消融）→ 选中集成功率从 0.674 崩到 0.144（第十名开外）——边际递减建模是泛化的来源；去掉前缀记录（纯密度贪心）→ 精确最优比例从 100% 掉到 44%——非单调目标下「链尾最优」假设失效；去掉集合级打分（top-k/MMR/DPP）→ 最优比例 7.5%——单体分数在数学上表达不了集合关系。
一句话：基线输在把集合决策压缩成了单体排序，本文赢在把这个压缩还原成了带保证的优化。
七、必要知识反推
假设一个训练有素但对该领域一无所知的人要做出这项工作，他最少需要什么？
领域知识层（LLM Agent 如何用上下文）
- 生产级 Agent 的两阶段「选择-执行」架构与其 token 流向（Codex/Claude Code 的渐进式披露）——不知道这个，就找不到「选择阶段的集合级决策」这个切口。
- 上下文窗口的实证病理学：无关内容干扰执行、Lost in the middle、冗余示例边际递减、长输入即使检索正确也可能降性能——这些构成线性惩罚与次模收益的经验合法性。
- 技能生态现状：注册表规模、检索-路由管线、注入打包方法——用于定位「无人有保证」的空白。
方法论知识层（组合优化 + 学习理论）
- 次模函数理论：次模性 ⇔ 边际递减；背包约束下单调次模最大化的 1−1/e 界与 Feige 硬度——不知道这个，既写不出目标函数，也不知道系数 1−1/e 是「最优」的证据。
- 正则化次模近邻谱系：目标可为负 ⇒ 常数乘近似不存在 ⇒ 双准则近似的动机链；distorted greedy 只覆盖基数约束、Ψ-greedy 有加性损失、budgeted-profit 系数弱——没有这张地图，就不知道「(1−1/e, 1) 无妥协」是个未解的空白，也就不知道该往哪攻。
- Sviridenko/Khuller 的密度贪心 + 部分枚举骨架与 Kulik 等的 refined bounding-function 分析——BPS 算法与证明第二步的直接原料。
- 加权覆盖函数在摘要/数据选择中的经典用法（Lin & Bilmes 等）——G(S) 形式的出处。
工程知识层（把理论装到真实执行器上）
- 基准污染的机理与 fork 私有模块的门控设计——没有它，「选择质量→执行成功」的因果链测不出来。
- 从 pass/fail 二值结果拟合连续目标的实践（log loss 对 exp(F̂) 的成功概率回归）。
- 冻结执行器假设的含义：E 固定，所有参数 (η, λ, κ) 才是常量、可校准。
知识融合的关键节点
- 节点一（形式化）：把「技能为什么有用」的能力直觉（供给×需求×饱和）翻译成「单调次模减线性」——需要 Agent 领域知识与次模理论同时在场。
- 节点二（算法-证明）：发现惩罚与约束共享长度坐标 ⇒ 分数界的两个凸组合可合并 ⇒ 预算对齐插值——需要对齐的目标形式（节点一的产物）与贪心分析的连续化技术（Kulik 系）相遇。这是全文最不可替代的一步：换个目标形式这个技巧就不存在。
- 节点三（闭环）：误差转移命题把「学习的 ε」与「优化的 δ」缝成端到端regret——学习理论与近似算法在此合流，实验三层指标（拟合/优化/端到端）正好逐一对应。
八、论文中可以提取的通用性灵感
灵感一：上下文价值是集合级的，一切「单体打分」都在丢失信息。
核心思想：给 Agent 选上下文内容（技能、示例、工具、文档）时，任何按单项独立打分再组装的管线，在机制上都无法表达互补与冗余这两个集合级关系。
论文证据：单能力技能单选 0%、互补组合 93%；top-k/MMR/DPP 在 80 实例上仅 7.5% 达精确最优，平均差距比集合级方法大两个数量级。
推广场景：(1) RAG 的多文档选取（证据间互补/冗余同样存在）；(2) in-context 示例挑选（示例组合的联合覆盖）；(3) 多 agent 团队组建（成员技能互补性优先于个体强度）；(4) 工具箱裁剪（为每类任务配置最小充分工具集）；(5) 推荐系统的组合推荐（套装而非单品排序）。
灵感二：把「预算」与「惩罚」对齐到同一坐标，能解锁新的算法保证。
核心思想：当约束与正则项共享同一度量（这里是 token 长度），分数解到整数解的转化可以无损完成——结构对齐本身是算法设计的杠杆。
论文证据：预算对齐插值使 BPS 同时拿到正则化目标 + 背包约束 + 积分解 + 零加性损失四项性质，此前任何工作最多拿到三项。
推广场景：(1) 缓存/预取的容量约束与未命中惩罚对齐到字节数；(2) 模型服务中的批大小预算与延迟惩罚对齐到 token 数；(3) 数据选择的标注预算与训练成本对齐到样本数；(4) 任何「软成本 + 硬上限」可写成同一资源坐标的系统设计。
灵感三：执行记录是最好的价值模型教师，结构先验让小模型赢过黑盒。
核心思想：与其用代理信号（文本相似度）猜内容价值，不如直接从「用了它之后结果变好/变坏」的记录拟合一个带结构先验的轻量价值函数——结构（次模+线性）换来的是组合外推能力与可解释的隐变量。
论文证据：281 参数的结构化目标预测误差 ≤1pp、恢复隐藏覆盖矩阵 AUC 0.996、选中集达经验天花板 95%；60 倍参数的 DeepSets 优势与零不可区分，Set Transformer 反而崩溃；消融显示凹饱和（结构先验的核心）贡献了从 0.144 到 0.674 的主要增益。
推广场景：(1) prompt 组件的 A/B 记录→组件组合价值模型；(2) 工具调用的成败记录→工具组合推荐；(3) 特征工程中从下游指标反推特征子集价值；(4) 在线系统中用点击/转化记录学资源组合的收益函数。
灵感四：评测要强制暴露因果，而不是统计相关。
核心思想：当公共基准能被参数知识「绕过」时，必须用污染受控 + 能力门控的设计让「不提供关键信息就必然失败」，指标才真正测量你想测的环节。
论文证据：原始 BigCodeBench 上 Qwen3-32B 裸跑 85%，根本测不了技能选择；fork 私有模块 + 三重门控（私有解过 ∧ 标准解挂 ∧ 单能力混合挂）后，成功率与选择质量强制因果耦合。
推广场景：(1) 检索增强系统的评测（把答案从参数知识中剥离）；(2) 工具使用评测（虚构 API）；(3) 记忆系统的评测（私有事实注入）；(4) 任何「模型可能已经见过答案」的能力评测。
附录：符号速查
| 符号 | 含义 |
|---|---|
| L, s_i, ℓ_i | 技能库、第 i 份技能、其 token 长度 |
| u_i ∈ ℝ₊^d | 技能 i 的潜在能力供给向量 |
| w_q ∈ ℝ₊^d | 查询 q 的能力需求向量 |
| h_k(x) = 1−e^(−x) | 第 k 维凹饱和函数（边际递减） |
| G(S) | 次模能力收益 Σₖ w_k·h_k(Σ_{i∈S} u_{i,k}) |
| κ, c(S)=κℓ(S) | 每 token 上下文灵敏度、线性惩罚 |
| B, F_B | 硬 token 预算、可行集族 |
| F(S)=G(S)−κℓ(S) | 选择目标（正则化次模） |
| α = 1−1/e | 收益近似系数（多项式时间最优） |
| ε, δ | 拟合误差 / 优化误差；regret ≤ 2ε+δ |
| J, v*, r | 证明中的二元种子、最长残差项、残差预算 |
| V(u), φ(u) | 密度链轨迹函数 / 分段指数 bounding function |