Mo' Models, Mo' Problems × Co-Skill 精读:多智能体选型与边云技能演化双视角

两篇互补的 multi-agent 工程研究:NVIDIA×哥本哈根的 Mo’ Models 用 23 模型×3 科学基准证明 MAS 模型池’加模型常降性能’——oracle 潜力与实际达成存在鸿沟、同族池是唯一稳定正收益、准确模型解集高度嵌套(rM=0.931);哈工大的 Co-Skill 诊断边云 skill 演化的’盲通信’根因(上传 token 25-42% 是重复前缀),用前缀合并轨迹 trie+渐进 skill 树双向解盲,token 省 15.6-41.9%、成功率提升 25.8-76.4%。合读视角:多 agent 系统的两个新瓶颈——选谁进队(异构组合的聚合噪声)与怎么通信(协作双方的信息结构)。

September 17, 2026 · 2 min

ScienceBuddy: Recursive-in-Recursive Self-Improvement for Interactive Scientific Agents 精读

ScienceBuddy 把’与研究者聊天’变成模型-线束双改进的燃料:研究者交互免费产出任务定义与评估 rubric,内层递归固定模型演化 harness(有界编辑+成对回归检查),外层递归固定 harness 做 rubric 奖励 GRPO——三周期后科学任务准确率 42.2%→73.3%,纯 harness 演化即可 +20pp(权重冻结),纯模型 RL 覆盖率 +19.5pp。Recursive-in-Recursive 范式为 RSI 提供了’两条改进通道各自可评估、互为条件’的工程化路径,并作为可下载的科研产品发布。

September 17, 2026 · 3 min

Spurious Tool Use: When RL Agents Learn the Wrong Reason to Act 精读

RL 训练的 agent 调用工具的理由可能是错的:UW+UCSD+Stanford 团队构造受控环境注入与工具强相关但因果无关的线索,发现反事实评估下伪工具调用率最高暴涨 +39.2%——而且捷径只在 agent 已可靠掌握该工具时形成(任务能力是捷径的前提)、语义对齐线索放大效应(对齐 +39.2% vs 交换 ≤3.5%)。反直觉结论:提升能力的 RL 同时放大捷径易感性,标准任务奖励不足以产生鲁棒工具策略;LLM 裁判的’工具必要性’密集奖励可有效压制且不损准确率。

September 17, 2026 · 2 min

Dream-RSI: Recursive Self-Improvement through Evolving Worlds 精读

RSI(递归自我改进)的核心瓶颈是探索策略管理:固定策略无法适应搜索空间扩张,在线策略优化又受困于长程 rollout 的延迟昂贵反馈。Dream-RSI 的关键洞察是——积累的发现历史本身就是已实现搜索空间上的重放模拟器,把探索策略的改进从昂贵的真实环境 rollout 搬到廉价的历史重放(做梦即训练)。Lasso 求解器发现任务上 agent 调用较 SimpleTES 削减 162×,held-out 运行时 3587→2931ms。本精读覆盖三环循环机制、重放模拟器的信息学根基与发现求解器的算法细节。

September 16, 2026 · 2 min

HarnessBandit: Joint Learnability-Transferability Scheduling for Multi-Harness Agentic Reinforcement Learning 精读

同一模型在不同 harness(系统提示/工具 schema/控制循环/轨迹格式)下表现不均——多 harness 共同训练时每个优化步选哪个 harness 是被忽视的调度问题。HarnessBandit 用双信号在线调度:learnability(批平均绝对优势,还有多少可学)× transferability(梯度 sketch 余弦,学了是否白学),bandit 采样决策。6 harness 在 ClawGym 训练,held-out 任务与 held-out harness 双评测均优于混合批次训练。本精读覆盖双信号的互补性设计与 DeepSeek 产学研背景下的调度理论落地。

September 16, 2026 · 2 min

COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization 精读

港中文深圳团队把 agent 技能优化重构为’动态候选空间上的预算受限序贯优化’:contextual bandit 优先级评分决定评估哪个候选(exploit 历史得分 + explore 不确定性),证据驱动的进化只做有界精炼不做全局重写。结果:6 个 benchmark × 3 模型平均提升 13.1/26.9/22.5pp,相对 SkillOpt 总成本砍 55-58%,每 benchmark 只用 50 个优化样本,且对 harness 更换鲁棒。

September 15, 2026 · 2 min

DataFlex-RL: An Evaluation Platform for RLVR Data Policies 精读

北大×UCAS 等机构的 RLVR 数据政策评测平台:13 配置 × 12 匹配种子 × Qwen2.5-7B 在 12 个数学/逻辑/科学 benchmark 上的受控对比发现——均匀 GRPO 已提升 7.76 分后,无任何选择/重加权方法的配对 95% CI 排除零;三种自适应混合均不优于固定等权。更警醒的是评测敏感性:math-heavy 摘要与均衡摘要的排名负相关(ρ=−0.33)。‘数据工程很重要’的流行叙事在受控条件下未被支持。

September 15, 2026 · 1 min

EvoRS: On-Policy Self-Evolution of Reward Systems for Open-Ended Reinforcement Learning 精读

复旦大学针对开放 RL 的奖励系统自进化框架 EvoRS:rubric 奖励与 policy 构成动态反馈回路——policy 优化当前奖励时,初始有用的奖励系统会因 reward hacking 或区分度退化而失效。EvoRS 把奖励系统表示为可执行 Reward-DAG,agentic designer 从 on-policy rollout 与奖励轨迹更新它。写作/角色扮演任务上三种 judge 下质量最佳,超固定奖励 policy 2.107/4.767 分,reward hacking 与覆盖失败双降。

September 15, 2026 · 2 min

Eliciting Weak-to-Strong Generalization with On-Policy Reverse Distillation 精读

弱到强泛化的核心矛盾:常规蒸馏把弱教师当优化目标,学生的上限被教师的容量天花板钳死。OPRD 的解法优雅而克制——在学生 rollout 上提取弱教师相对其参考策略的’政策偏移’方向,只放大学生自身 verifier 梯度在该方向上的投影分量,不建立任何教师匹配目标。理论上保住了策略优化的不动点,实践上比 GRPO 少 33–67% 更新达到教师水平、最终超越教师,多教师场景比 Mix-RL 省 55% 更新。本文精读拆解其梯度投影机制、不对称缩放调度与’加速而非转向’的证据链。

September 10, 2026 · 3 min

ERPO: Entropy-Regularized Rank-Masked Policy Optimization for Test-Time RL in Code Generation 精读

测试时强化学习(TTRL)靠答案自投票构造奖励,但代码程序没有规范答案可比对——TTRL 由此与代码生成绝缘。本文提出 probe-driven TTRL:从题面自构造无输出探针输入,用候选程序行为一致性构造 Probe Consensus Reward;再用 ERPO 把 PCR 当作’负信号为主’的奖励——rank masking 屏蔽高共识半区、只抑制低共识程序,配合熵上限防止多样性坍缩。Qwen3-4B 在 LiveCodeBench 域内 pass@1 26.0→36.7、pass@16 34.4→46.3,零样本迁移 CodeContests 25.1→42.1,是唯一同时提升 pass@1 与 pass@k 的无标签方法。

September 10, 2026 · 2 min