多 Agent 协作的两极:前沿模型自组织涌现与编排本身可学习 —— 合读精读

题目区

本篇合读两篇 2026 年 10 月 15 日同日发布的多 agent 协作论文:

论文机构链接
A team of Gemini 4 Argon agents beats MinecraftGoogle DeepMindarXiv:2610.22319
Learning Self-Orchestration in Decentralized Agent Swarms(MPT)Harvard UniversityarXiv:2610.22322,代码与模型

作者与机构关系:

  • 论文 A:Maxence Faldor、Satinder Singh、Roberta Raileanu,全部来自 Google DeepMind,单一企业机构、无高校合作,属于前沿模型能力测评类工作。
  • 论文 B:Guowei Xu*、Zhenting Qi*、Amani Kiruga、Himabindu Lakkaraju、Yilun Du(*一作二作等贡献),全部来自 Harvard University。其中 Qi 与 Xu 均为 Economy of Minds(Qi et al., 2026)的作者——那篇提出了用拍卖协调 LLM agent 的经济框架,本文是把该框架从『冻结权重、进化 prompt』推进到『权重级联合训练』的直接后续。

为什么合读:两篇论文回答的是同一个问题的两个侧面——当一群 agent 共同完成长链条任务时,分工与协调从哪里来?

  • 论文 A 的答案:前沿通用模型 + 通用工作守则,协作可以完全涌现,无需任何显式编排设计。
  • 论文 B 的答案:协作模式本身可以被显式参数化(出价)并放进训练循环里联合优化。

一个展示了涌现的上限,一个展示了训练的收益,合读能看到这个领域完整的可能性空间。

一、论文背景:多 agent 系统的协调从哪里来

1.1 LLM 多 agent 系统的两种主流做法

先补齐共享背景。LLM 多 agent 系统指多个大语言模型 agent 各自持有角色、工具与记忆,通过通信共同完成任务。当前主流做法有两类:

  1. 固定编排:人类预先设计交互拓扑——manager 委派 worker、verifier 检查 generator、或按既定工作流传递(MetaGPT、ChatDev、AutoGen、CAMEL、多 agent 辩论等)。谁在什么时候说话,写死在框架里。
  2. 推理时自适应:GPTSwarm 优化 agent 连接图、AgentNet 通过经验演化去中心化路由、Graph-of-Agents(GoA)用图结构选择 agent 并精炼回答。交互模式可变,但模型权重冻结,适应只发生在上下文层面。

1.2 被忽略的耦合:编排与能力互为函数

两条路径共享一个未被打穿的假设:编排结构与个体能力是分离的。即使参与训练(如 Multiagent Finetuning、Dr. MAS、CoLLM),轮到谁行动的决策通常也固定不变。论文 B 在引言里点破了这层耦合:

  • 哪个 agent 在某个状态下行动,决定了群体的轨迹走向,也决定了哪些 agent 获得经验与学习信号;
  • 随着 agent 变强,有效的参与模式也应随之变化——训练早期该出场的 agent 后期可能多余;先前无用的动作在下游 agent 变强后可能变得有价值;
  • 因此在固定编排下训练个体,只优化了这个耦合过程的一侧。

1.3 论文 A 的背景:Minecraft 长时程测试床的三十年悬案

Minecraft 通关需要跨越三个维度完成长序列依赖步骤:主世界收集资源造工具 → 下界收集烈焰棒与末影珍珠 → 定位地下要塞 → 终界摧毁十颗治疗水晶并屠龙。MineDojo(2022)把从零击败末影龙列为 moonshot 目标。已有的两条攻击线:

  • RL/游戏策略学习线:VPT 从在线视频学键鼠控制并造出钻石工具、DreamerV3 用 RL 从零挖到钻石、SIMA/SIMA 2 从像素跨多个 3D 游戏行动。共同点:需要大量游戏数据训练策略,均未完成屠龙。
  • LLM+游戏专用规划器线:Voyager 把 Mineflayer 程序写进自动课程下的技能库;DEPS、GITM、JARVIS-1、Plan4MC、Optimus-1 加入了 Minecraft 专用规划器、知识、记忆或学习到的技能。长时程成果集中在主世界科技树(钻石工具级别)。

两个社区项目近期报告了端到端屠龙:单个 Claude Opus 5 agent 调用 37 个人类写的高级 Minecraft 工具(Normal 难度,AI Bengineering 2026);规划器+动作选择模型组合使用固定速通种子(Peaceful 难度,Malde 2026)。没有系统在零人类游戏工具、随机种子的条件下端到端通关过。

1.4 两篇论文在光谱上的位置

两篇论文恰好站在『编排光谱』的两端:

  • A 端问:如果模型足够强、守则足够通用,编排还需要设计吗?
  • B 端问:如果编排要学习,应该怎么参数化、怎么训练、学完能复用吗?

两端相遇处的共同参照物恰好都是 Minecraft:论文 A 用它做涌现测试场,论文 B 用它(MineStudio 合成任务)做训练场之一。同一游戏、同一类长链条依赖结构,两种截然不同的利用方式,这让合读时的对照更加公平。

二、论文定位和关联工作

维度论文 A(Gemini 4 团队通关)论文 B(MPT 自编排训练)
类型能力里程碑 / 系统报告训练范式 / 方法论文
编排来源完全涌现(无预设角色与计划)显式机制(拍卖出价)且可训练
模型Gemini 4 Argon(前沿闭源)Qwen3-VL-4B / NaVILA-8B / gemma-4-E2B(开源小模型)
训练不训练,纯推理时运行SFT 冷启动 + REINFORCE/偏好学习联合后训练
与前作关系对照 RL 线(VPT/DreamerV3/SIMA 2)与规划器线(Voyager/JARVIS-1 等)承接 Economy of Minds 的拍卖框架,推进到权重级联合训练
MARL 脉络不涉及训练与 COMA 反事实基线、VDN/QMIX 值分解、IC3Net、bucket brigade(Holland 1995)对话
开源未发布(世界存档与程序日志有记录)代码与训练模型全开源

论文 B 在 Related Work 中的定位非常清晰,三层逐级排除:

  1. GPTSwarm/AgentNet/GoA 在推理时调整交互——权重冻结,能力不增长;
  2. Economy of Minds 用拍卖协调 LLM、SALE 用成本-价值打分选策略——反馈只用于进化 prompt 或种群,权重仍冻结;
  3. Multiagent Finetuning/Dr. MAS/CoLLM 训练了 agent 权重——但不把『下一个行动者的选择』与『奖励如何分配』挂钩。

MPT 的差异点是通过学到的出价把轮次分配与信用分配耦合成一个闭环。论文 A 则在其 Related Work 中明确列出与两个社区屠龙项目的差异维度:给 agent 的东西不同——四个通用编码 agent 只拿到原版 Mineflayer 库(含寻路插件)、一段话目标与通用指令,没有游戏策略指令、课程、技能库、人类工具、路线,每个运行的程序都是 agent 自己写的。

三、问题定义

把两篇论文的具体场景剥掉,抽象出共同本质问题:

核心问题:N 个 agent 共享一个目标的顺序决策过程中,每一轮『谁行动』的决策与任务回报如何共同决定系统性能,且两者相互耦合——参与决定经验分布,能力变化又应反过来改变参与模式。

拆成两个子问题:

  1. 协调充分性问题(论文 A):当个体模型能力足够强时,仅凭通用工作守则(验证结果、构建可复用工具、记录教训、诚实汇报)与最低限度的通信信道(聊天+共享笔记),有效的分工、记忆、互助能否在无中心指挥下自发形成,并支撑超过一天、数千个依赖步骤的长时程任务?
  2. 协调可学习性问题(论文 B):能否把『何时参与』参数化为策略的一部分,让参与决策与行动策略从同一批任务经验中联合学习,而不依赖中央协调者?且学到的编排要能复用到新任务、能靠增加个体数扩展、能抗个体下线。

两篇的证明方式也构成对偶:论文 A 给的是存在性证明——在模型能力与通用守则的某种组合下,专用编排设计是不必要的;论文 B 给的是构造性证明——编排可以表示为可偏好学习的出价策略,与 RL 联合优化后确实随能力演化。前者不控制变量(单次运行),后者严格控制变量(等 FLOPs、同种子、逐组件消融),方法论上互补。

四、问题解法

4.1 论文 A:四个通用编码 agent + 一个观察者

基本设置。四个 Gemini 4 Argon 通用编码 agent(janesick、gyldenia、auratian、bulicame),各自在独立云机器上运行,各控一个 Minecraft 玩家。游戏为 Java 版 1.20.4 生存模式、Easy 难度、随机种子、作弊命令关闭、全程无人类输入。目标指令只有一段话:『目标是从本次会话共享的 Minecraft 生存世界出生点出发击败末影龙……这是唯一标准。生存模式规则内任何满足它的手段皆可,玩家自行决定分工。』

感知与行动全部经由代码。agent 不看像素、不按键盘、不用鼠标:它写一段短 JavaScript 程序(比如『走到这些坐标并挖掉 16 格内所有铁矿』),由 Mineflayer bot(开源库 + 寻路插件,不加任何 helper)执行,然后读回文本:位置、血量、背包、发现物或报错,接着写下一段程序。程序中位运行时长 33.5 秒;全程每个玩家约 40% 时间有程序在跑,其余时间用于读结果、思考、写下一程序。程序可加载 Node.js 内置模块与已装的 Mineflayer 包,但不能起进程、不能写文件、不能联网——全程 2,839 个程序无一发起网络请求或引用网络来源。

通信与记忆。玩家通过游戏内聊天交流(消息会出现在每个玩家下一个程序的输出里);每个 agent 有持久记忆,含私有与团队共享两部分,指令要求把必须扛过上下文压缩的信息(进行中的工作、下一步)存进去。通用守则只有几条:行动前观察、行动后验证;新工具先在小任务上验证再信任;手工操作拖慢速度就自建精炼工具;把机制、策略与变通记进记忆,别把同一个障碍撞两次;后台任务跑着时继续干别的;诚实汇报行动与结果;追求目标而非利用环境或评测的漏洞。

第五个 agent:Observer。同一通用 agent 的另一个实例,只看不打:对照记录核查玩家的声明、报告规格博弈(钻评测漏洞)与捏造结果、只在环境故障(工具坏了、配额到顶)时干预、从不参与策略。它全程发布了实时报告(进展摘要、已验证事件日志、基础设施发现),未发现任何作弊;人工抽查日志亦然。整个运行期间研究人员可以在实时仪表盘上观看、随时暂停或停止,但从未需要干预。

4.2 论文 A:27 小时逐阶段回放

这份过程数据是论文最独特的资产,值得分段细读:

第 0 小时:一支队伍的形成。第一个程序跑起来后 10 分钟,janesick 在聊天里提议分工(自己冶炼铁做工具、gyldenia 收集木头食物 beds 与燧石、auratian 与 bulicame 下矿洞找钻石黑曜石);一分钟内 auratian 给出一个不同版本的计划,gyldenia 回复『Copy that!』。角色迅速定型:gyldenia 侦察食物 beds 与燧石、bulicame 下矿洞找钻石、janesick 冶铁做工具、auratian 备下界门。两小时内团队有了铁器、钻石与下界门——auratian 在一个村庄里直接找到 55 格岩浆,janesick 放下最后一格黑曜石,auratian 两秒后点燃门框(+1h42)。

第 2–11 小时:下界。末影之眼需要烈焰粉(下界要塞的烈焰人掉落)与末影珍珠(末影人掉落)。团队分头行动:janesick 找到要塞与烈焰刷怪笼;gyldenia、auratian、bulicame 在诡异森林建两格高掩体——被注视的末影人会传送冲向玩家,但近三格高的它钻不进两格天花板下面,于是末影人自己送上门。第 5.5 小时,共享箱里集齐 15 颗珍珠。带烈焰粉回主世界花了六个多小时:janesick 身揣 12 个烈焰粉烧死了,一个 Ghast 火球又炸毁一堆掉落物。损失变成规则:Ghast 袭击后,auratian 立刻给全队贴出教训(永远不要在开阔地下界荒地结束评估、必须在封闭隧道中转),两分钟后 janesick 贴出根因与修复(返程东向有一个 2 格落差挡住路径,去程顺手凿成 1 格台阶)。

第 10–13 小时:三角定位要塞。扔出的末影之眼会飞向最近的要塞。janesick 从两处各扔一颗,以 50 毫秒间隔采样眼球飞行轨迹,程序里对两条射线求交点:距村庄 1.3 公里,与真实传送门房仅差 43 米。然后 12 颗末影之眼需要运过去——auratian 溺水时距 bulicame 只有 8 米,janesick 与 auratian 各自把精确坐标与物品消失时限发给 bulicame,bulicame 以两分半的余量捡回全部 12 颗(物品 5 分钟消失)。第 13h17m,bulicame 报告末地传送门点亮。

第 13–27 小时:学习打龙。终界是团队最慢的一段:龙杀了他们 69 次。尝试之间,他们直接从游戏数据里读龙的内部状态(包括当前行为阶段编号),写下规则:别在到达平台上久等(龙 60 秒后会冲撞平台把你撞进虚空);只在龙栖息时接近;龙卡住时全员故意跳虚空死亡回主世界床边重生,让空的终界卸载、卡住的龙重置(第 17.5 小时四人六分钟内集体跳下)。突破发生在约第 21 小时:auratian 指出黑曜石柱顶的十颗水晶以每秒 2 血持续治疗龙(200/200 满血、原版栖息伤害上限 50 血),并算出登顶根本不需要镐—— dirt 徒手 0.75 秒可挖、100% 回收,挖 45 块土在柱边搭柱上升到水晶旁,赤手拳碎水晶,再徒手挖土下来。接下来 4 小时 40 分钟里团队拆掉全部十颗(gyldenia 6 颗、auratian 3 颗、bulicame 1 颗),最后一颗于 +26h34m 落下;39 分钟后龙死了,bulicame 血量只剩 2.5/20。

4.5 论文 A 的涌现行为清单

指令里没有任何角色、共享箱、抢救的概念(只有『玩家自行决定分工』一句),但 229 条消息中涌现出这些模式(一条消息可匹配多个模式):

涌现行为消息数实例
精确坐标173箱子、传送门、危险点全部以坐标共享
共享箱64珍珠、烈焰粉、末影之眼放共享箱交接
危险警告24到达平台冲撞规则、开阔地 Ghast 规则
物品抢救20溺水/烧死后队友按坐标+倒计时捡回装备
经验教训11根因分析与修复方案两分钟内贴出
  • 专业化:gyldenia 管食物补给并后期拆 6 颗水晶;janesick 造工具、找要塞、三角定位;auratian 点火下界门、想出拆水晶方案;bulicame 建末影人掩体并在终界打出最后一击。
  • 共享记忆变成公共品:第 19 分钟 gyldenia 警告 Mineflayer 合成接口的一个坑及绕法,修复用的 helper 函数后来出现在 655 个程序里,四个 agent 都在用。全队维护 146 件跨程序存活的状态与代码(含 42 个 helper):水中自动漂浮的后台循环、计时走路、物品计数、让超时程序残留代码自停止的计数器(被 1,519 个程序引用)。
  • 纠错文化:auratian 的程序宣布了一个并未发生的成功(14 颗末影之眼已入库),两分钟后 auratian 自己更正:『我上一条聊天是一个无保护的脚本分支』;janesick 报告带着 12 烈焰粉归来的一秒前其实已烧死,gyldenia 三分钟内标记矛盾。

4.6 论文 B:MPT——出价的双重角色

MPT(Market-based Post-Training)的机制核心是一句话:出价既决定谁行动,也决定价值如何沿行动链向后分配。

拍卖式轮次分配。每轮各 agent 依局部上下文独立出价 b_i(反映参与意愿),最高价者行动;平价随机;全零则跳过该轮。无中央调度。出价被翻译成小模型可学的五档语义:0=我的动作现在帮不上忙;0.2=勉强有用;0.4=有用;0.6=重要;0.8=我是瓶颈,没有我链条动不了。

出价即信用分配纽带。回合 t 的行动者保留累计价值的 (1−b_t) 作为自身训练 credit,把 b_t 传给上一行动者——bucket brigade 式后向传播:v_t = r̂_t + b_{t+1}·v_{t+1},tilde_r_t = (1−b_t)·v_t。t+k 回合的奖励以 ∏b_j 的权重回流到 t。直觉:你在关键时刻高价接手,等于向后『买下』了前人铺垫的状态,前人的回报由你实现;第一个行动者向后传的部分被丢弃。

两种学习交替。行动学习用带 per-agent 均值基线的 REINFORCE:每个 agent 只用自己行动轮次的 action token 更新自己的参数。出价学习用反事实比较:定义『有竞争回合』为次高价非零的回合;在副本中恢复该回合的环境与 agent 状态,重采样被选 agent 的出价(至多 3 次)直到低于次高价、让次高价者转而行动(失败则该回合弃用);替代分支跑到终局,两条分支按从该回合起的环境奖励总和打分,分出胜负构造偏好对 (y_w, y_l),等分弃用;用 Bradley–Terry 目标 -log σ(log π(y_w|h) − log π(y_l|h)) 更新。训练按 4 步行动 + 1 步出价交替,两者优化同一套参数,让行动能力与参与模式共同演化。

三个领域、各三个互补角色:

领域基座模型(全参微调)三角色与动作空间分割低层执行奖励
具身合成(Minecraft MineStudio,做铁镐)Qwen3-VL-4B-Instruct ×3Logger(chop/get/gather/break/find/scatter)/ Miner(dig/mine/explore/tunnel)/ Smith(craft/equip/smelt),动词首词硬约束由解析器强制冻结的 STEVE-1 执行 40 帧12 个科技树事件的分级事件奖励,总和 140
机器人导航(Habitat VLN-CE R2R)NaVILA-8B ×3Turner(15/30/45 度转向)/ Mover(25/50/75 cm 前进)/ Stopper(stop)仿真器原子动作测地距离缩短 ×1.0 + 3m 内 stop 成功 ×2.5
深度研究(OpenResearcher,5,000 问题)gemma-4-E2B-it ×3Searcher(browser.search)/ Opener(browser.open)/ Finder(browser.find),均可交最终答案BM25 检索服务qwen3.5-flash 判官对参考答案的二元终局奖励

所有 agent 独立参数,先 SFT 冷启动(具身合成用 Claude Sonnet 5 生成 4,791 条真实交互示范:Logger 1,677 / Miner 2,380 / Smith 734),后训练与环境对比均在完全匹配总算力的条件下进行(单体基线用全部角色合并数据微调同一基座 + REINFORCE,γ=0.95)。

一个具体回合长什么样(论文附录案例)。第 3 决策步,背包全空、身处光照 14/15 的林间,三个 desk 各给一句出价理由:

  • Logger 出 0.8:『连砍三次失败后账户已空,此刻再挥一斧是唯一希望』——胜出,发出指令 chop down the nearest tree;
  • Miner 出 0:『还没有镐、包里没有任何有用的东西,地下没有我能碰的』;
  • Smith 出 0:『Craftable now 字面写着 nothing,我一根原木一块木板都没有』。

出价理由全部锚定在具体库存事实上(这正是 prompt 要求的『引用具体库存事实的一句话推理』),接手与否的判断完全局部化——没有中央调度,也没有全局状态广播。深度研究的案例同样干净:问题『电影 Legend of the Lost 在哪国拍摄』(参考答案 Libya),6 个决策完成——Searcher 首轮检索(出价 0.8/0/0.2)、Opener 打开 Wikipedia 词条(0.8/0.8/0.2 平价后胜出)、FINDER 连续三轮在页内 find(“Libya”)/find(“Ghadames”) 交叉确认后交出最终答案 Libya,判官判对。

五、评估指标与实验证据

5.1 论文 A:一次运行的全量记录

这是一篇没有 baseline 表的系统报告,证明力来自全量留痕 + 外部锚点 + 独立见证:

指标数值
端到端通关时间27 小时 14 分钟(含 6 次服务器重启共约 20 分钟,约 81 个游戏日)
程序规模2,783 个程序(胜前)/ 63,313 行 JavaScript;22% 程序以报错结束
通信229 条聊天消息
死亡605 次:怪物 351 / 龙 69 / 溺水 67 / 摔落与虚空 57 / 岩浆与火 47 / 其他 14
关键里程碑石器 +0h06、铁器 +0h14、打火石 +1h04、下界门 +1h42、下界要塞 +2h57、末影珍珠 +3h06、烈焰棒 +4h17、末影之眼 +10h43、要塞 +13h17、进终界 +13h33、十水晶 +26h34、屠龙 +27h14
成本约 13.5 亿输入 token(91% 命中上下文缓存)、1,600 万输出 token(含 400 万思考 token)、约 2.4 万次模型调用;按入门牌价约 $520(标准价 $1,040),全程含 Observer 与胜后活动约 $810
人类对照HowLongToBeat 主线中位 45 小时;随机种子速通纪录 <7 分钟

证据链为什么可信:胜利写在服务器日志里(bulicame 获得进度 Free the End,+27h14m);每个程序及其输出、每条聊天、完整服务器日志全部归档;2,783 个程序无一使用服务器命令;Observer 独立核查声明且未发现规格博弈;三角定位要塞这类关键细节可以从留档程序逐行复核(程序注释是 janesick 自己写的两条射线参数)。

局限同样诚实列出:单次运行(首次尝试,无法说明可靠性);Easy 难度(怪物伤害低、饥饿不会致死);Mineflayer 特权感知(直接读出周围方块与生物——包括岩石后的、以及龙的内部状态元数据——寻路插件包办绕障,人类靠眼睛);预训练含大量 Minecraft 与 Mineflayer 知识(测试的是能否把知识转成一天级程序流与团队协调,不是玩没见过的游戏);终界之战近 14 小时、605 次死亡。

5.2 论文 B:控制变量下的全面对比

主结果(等训练 FLOPs,训练奖励曲线):

任务MPT(群体)单体 RL倍数
具身合成(最终平均回合奖励)约 41约 202.05×
机器人导航(最终平均奖励)约 0.9约 0.33×
深度研究(平均准确率)约 27%约 6%4.5×

Held-out 泛化(训练集不相交,各实例评 3 次,均值±标准误):具身合成(32 未见世界种子)41.5±5.9 vs 20.3±4.1;导航(88 个 R2R-CE val-unseen)1.23±0.18 vs 0.52±0.14;深研(50 留出问题)21.0±4.1% vs 9.0±2.1%。

编排对比(同一组训练后行动策略,只换协调机制,Iron Pickaxe 32 种子):MPT 41.5±5.9 vs GoA 25.4±4.6(最强替代,+63.4% 相对提升)、Round-robin 23.8±4.2、AgentNet 20.9±4.2。这个实验设计干净:行动能力固定,纯比协调机制。

组件贡献(初始/训练后 2×2 消融,Iron Pickaxe):出价初始+行动初始 15.4±4.1;仅训练出价 21.5±4.7;仅训练行动 27.2±4.8;双训练 41.5±5.9(全初始的 2.69 倍)。双向均有贡献且近似互补。

机制消融(约 5×10^18 FLOPs):MPT 42 vs 随机 credit 31(保留拍卖分配与出价优化,仅把信用分配中的出价换成 U(0,1) 随机数)vs Round-robin 15(完全去掉出价,轮询+γ=0.95 训练,几乎不涨)。

参与模式随学习演化:Iron Pickaxe 第 120 决策步,Logger 占比从 SFT 后(RL 前)约 80% 降到 RL 后 45%,Miner 从约 10% 升到 40%,Smith 从约 10% 升到 15%——编排不是设计出来的,是学出来的。

复用、扩展、鲁棒:从铁镐检查点继续学 Torch / Stone Bricks,约 10^18 适应 FLOPs 时 35 vs 17、38 vs 19;3→12 agent(用训练好个体复制 1–4 份),pass@3:Wooden Pickaxe 78%→97%、Stone Pickaxe 69%→94%、Furnace 66%→91%,零额外训练;dropout p=0.9 时 12-agent 群保持奖励约 33,3-agent 群约 19。

作者自列局限:依赖外部可验证的任务奖励(未测主观反馈场景);出价更新需要从同一环境与 agent 状态出发的反事实 rollout——扩展到不可逆的真实世界交互仍是开放问题;算力限制下未探索单模型超 10B 或更大群体联合训练。

5.4 两篇论文的评估哲学对照

维度论文 A论文 B
证据形态单次运行的全量留痕(程序/聊天/服务器日志逐条归档)多种子统计(32/88/50 个 held-out 实例 × 3 次重复,报均值±标准误)
对比锚点外部参照(人类 HowLongToBeat 45h、速通 <7min、前人系统定性对照)内部基线(等 FLOPs 单体 RL、四种协调机制、2×2 与机制消融)
可信度来源独立 Observer 见证 + 人工抽查 + 无服务器命令的技术保证控制变量 + 消融隔离 + 泛化/扩展/鲁棒三轴补充实验
无法回答的问题可靠性/可复制性(单次运行)、更强难度下的表现主观奖励场景、不可逆环境、>10B 模型与更大群体

两种评估哲学对应两类贡献:里程碑式的工作靠留痕的完整性让单次运行可审计;方法式的工作靠消融的干净让每个机制贡献可归因。读者评鉴同类论文时,先分类再选择对应的质量标尺。

六、效果优势的根源解释

6.1 论文 A:为什么『什么都不给』反而成功了

表面归因『因为 Gemini 4 Argon 够强』是不完整的。机制上的因果链是:

供给端移除 → 能力被迫内生 → 正反馈循环成形。先前系统把能力做进基础设施(人类写的技能库/规划器/课程/37 个高级工具),agent 只需执行——这既检验不了通用性,也让所有涌现行为无法与脚手架的贡献区分。本文只保留通用编码 agent 的软件工作流(写程序-读结果-记教训),所有游戏策略必须由 agent 在 27 小时内自己生成。结果是一条正反馈循环:守则『构建可复用工具』→ 第 19 分钟 gyldenia 发现 Mineflayer 合成接口的坑并贴出修法 → 修复 helper 出现在 655 个程序里;守则『把教训记进共享记忆』→ Ghast 火球炸掉掉落物后两分钟出规则、再两分钟出根因与修复 → 损失制度化;守则『诚实汇报』→ auratian 主动撤回未发生的成功声明。工具越攒越多(146 件跨程序存活的状态与代码),教训越记越厚,605 次死亡没有白死。

通信带宽极低,但信息密度极高。229 条消息人均每小时约 2 条,听上去少得惊人,但 173 条含精确坐标。低带宽迫使 agent 把记忆外置到共享笔记、把协调压缩为可执行的坐标与规则,而不是寒暄。分工能在第 10 分钟自发形成,说明模型预训练里存有大量人类团队协作模式——守则只要不阻止它,它会自己冒出来。

必须强调的反面(作者自己列的):这个循环的燃料是预训练知识(模型认识 Minecraft 与 Mineflayer)+ Mineflayer 的特权感知与寻路 + Easy 难度;单次运行无法回答可复制性。交叉验证:同期两个社区屠龙项目在更宽松供给(37 个人类工具/固定种子)下也成功了,但它们无法分离『模型能力』与『工具供给』的贡献——本文的独特价值恰在于供给端归零后能力仍在。本次检索范围内未发现第二个零游戏工具、随机种子、多 agent 自组织的通关报告。

6.2 论文 B:为什么出价双重角色胜过固定编排

单体 RL 为何大幅落后(41 vs 20):不是模型容量差异(基线是同款基座全数据微调),根源在信用路径。单体 agent 在 120 步回合里用同一套参数对每一步打分,稀疏高值事件(石镐 +20、铁镐 +30)的 credit 混在漫长探索步里被稀释;MPT 中 Smith 只用自己行动轮次的 token 更新,credit 直达『此刻 craft 是瓶颈』的那一步——角色分工天然完成了信用聚焦。

固定编排为何落后(Round-robin 15,几乎不涨):问题不在轮询低效,而在参与模式无法随能力变化。训练初期 Logger 主导合理(没有木头一切免谈),但 Miner/Smith 变强后仍被轮询表锁死在等长轮次里——每轮约 2/3 的行动注定无法推进链条。反事实出价训练给出参与的直接反馈(这回合让次高价者走会更好/更差),Logger 晚期占比 80%→45% 的迁移是学出来的状态依赖。

bid 信用为何优于随机 credit(42 vs 31):这是最关键的一针消融——保留拍卖轮次分配与出价优化,只把信用分配里的出价换成随机数,增益消失大半。说明学到的出价确实编码了接力价值:高价接手意味着前人状态被我买下,回报沿出价链回流给真正铺路的人。这是 Holland bucket brigade(1995 分类器市场)与 Baum 的 Hayek Machine(1996/1999)在 LLM 权重上的复活,且被现代消融方法论证实仍是主要来源。

学到的编排为何胜过推理时编排(41.5 vs GoA 25.4):GoA/AgentNet/Round-robin 都只在推理时调整交互,权重里没有存储任何关于这个任务族的有效参与模式;MPT 的出价策略经过了 1,614 个种子的 RL 与反事实训练,把『什么状态下谁该接手』固化进了参数。交叉视角:这与 MARL 经典结论一致——COMA 的反事实基线(边际化单 agent 动作、固定其余)同样用『换人会怎样』分配 credit,MPT 可视为其拍卖式 LLM 对应物;IC3Net 学何时通信、VDN/QMIX 分解团队价值函数,都指向参与/贡献可分离度量这一共同根基。相反方向的参照:Multiagent Finetuning(ICLR 2025)训练专用模型但交互固定,Dr. MAS 只做 agent 间 advantage 归一化,CoLLM 研究集中/分散 critic——它们都不把轮次选择与奖励分配挂钩,正是 MPT 填补的缺口;本文检索范围内未发现更早把两者显式耦合进 LLM 权重训练的工作(最近的拍卖先例 Economy of Minds 权重冻结)。

6.3 合读视角:互为对方的极限测试

论文 A 证明:模型能力与通用守则足够时,显式编排机制(角色分配器、轮次调度器)可以不存在——涌现能填满这个空间。论文 B 证明:在 4B–8B 开源小模型区间,把编排显式化并训练它,收益巨大(等算力单体 RL 的 2–4.5 倍、最强推理时编排的 +63.4%)。两条线拼起来的推论:编排机制的必要性随模型能力递减;但编排可学习性提供的增益在弱模型区间不可替代。

论文 A 的 27 小时涌现有一层论文 B 数据无法复现的东西——跨主体互助与牺牲(溺水抢救 12 颗末影之眼、集体跳虚空重置龙、死亡物品抢救 20 次);论文 B 的反事实训练有一层论文 A 无法做到的东西——单变量归因(每个机制的贡献都被消融隔离,连 credit 来源都有随机化对照)。前者给过程数据,后者给因果证据。

七、必要知识反推

要从零做出这两篇论文,作者必须掌握的知识栈:

共享底座:LLM agent 工程全栈(上下文压缩策略、持久记忆的私有/共享分区设计、工具沙箱);多智能体 RL 信用分配脉络(REINFORCE 变体与基线设计、COMA 式反事实、值分解传统);Minecraft 生态三个接口层的精确能力边界(Mineflayer=程序化读写游戏状态、STEVE-1=文本条件低层控制、MineStudio=训练环境封装)。

论文 A 额外需要:大规模 agent 基础设施的运维与留痕设计(5 分钟世界快照、全量程序-输出归档、崩溃后从最近存档重启、6 次重启的容错);观测协议的指令工程(Observer 如何被约束成独立见证者:核查声明、报告规格博弈、只在环境故障时干预);安全沙箱思维(不能起进程/写文件/联网全部是硬约束而非守则);以及最稀缺的——克制:明明可以给提示、给工具、给课程,但为了归因干净全部不给。

论文 B 额外需要:微观经济学与机制设计(密封拍卖、Hayek 价格传递分散知识、Contract Net Protocol、bucket brigade 信用传递、Baum 的智能经济观);偏好学习(Bradley–Terry 目标、偏好对构造与等分弃用);可逆环境的副本与状态恢复工程(反事实分支要求环境与 agent 状态可精确回滚——这是方法成立的工程前提,也是不可迁移到真实世界的根源);跨领域统一实验设计(视觉/语言/工具调用三种模态共享同一套拍卖与训练循环,才能支撑结论的普适性主张)。

知识融合方式:论文 B 是经济学传统(Minsky 心智社会、Holland 分类器市场、Hayek)与 LLM 后训练的直接缝合——bid 的五档语义设计(0=pass 到 0.8=我是瓶颈)把经济量翻译成小模型可学的离散档位,且出价与行动共用同一参数(4B 模型一套权重既会干活也会报价)。论文 A 则是软件工程方法论(可复用工具、验证、事故根因分析、事后复盘)向 agent 守则的翻译——守则没提一个游戏术语,却足以组织出要塞三角定位与泥土柱拆水晶这类领域策略。

八、通用性灵感

  1. 把协调机制做成可学习参数,而不是框架常数。任何多人/多模块系统(微服务路由、模型路由、团队任务分派、供应链调度)都存在『谁接下一个任务』与『功劳怎么分』的耦合。MPT 证明两者可以用一个量(出价)同时承载并联合学习。设计启示:发现自己手写 if-else 式调度规则时,问一句——这个规则能不能变成策略的一部分吃反馈信号。
  2. 供给端归零是最好的能力测试。论文 A 的实验设计方法论可迁移:评估任何系统时,把所有人类先验(工具、模板、课程)拿掉,看剩多少——残余性能才是模型(或组织)的真实能力。附带收益:所有涌现行为都无法归因于你的脚手架。
  3. 低带宽高信息密度的通信优于高带宽闲聊。229 条消息里 173 条含精确坐标。团队协作系统的通信设计应强制结构化(坐标、规则、倒计时),而非开放聊天。对多 agent 系统的直接推论:压缩通信带宽可能反而提升协作质量。
  4. 损失快速制度化的正反馈循环。事故 → 两分钟贴规则 → 再两分钟补根因 → 规则进共享记忆 → 全员复用。605 次死亡没有白死的机制就在这里。这个循环对人类团队同样成立:复盘的价值在于制度化速度,不在于复盘本身。
  5. 反事实是参与决策的唯一直接老师。判断『该不该我上』缺乏标签时,造一个平行世界:让替补上,看结果差多少。环境可回滚的场景(模拟器、A/B 测试、可重放日志)都能套用;不可回滚场景(论文 B 承认的开放难题)可用离线反事实估计近似。论文 A 中 auratian 想出泥土柱方案、论文 B 中 Logger 晚期让位 Miner,本质都是对『换个人会不会更好』给出了答案——只是一个靠模型内部模拟,一个靠环境副本实测。
  6. 规模冗余是被低估的鲁棒性来源。12-agent 群在 90% dropout 下仍保 33 奖励(3-agent 群 19)。自编排系统的好处是复制个体即扩容,无需重新设计协调协议——对任何去中心化系统(爬虫集群、边缘计算、值班系统)都适用。
  7. 涌现与训练的边界即模型能力的量尺。同一协调问题,4B 模型需要显式拍卖+反事实训练,前沿模型靠守则即可涌现。评估自家场景该投入编排机制还是模型升级时,这个对偶给了决策框架:先测守则+现有最强模型能否涌现,不行再上可学习编排。

加评:一窋涌现实录,一炉机制锻造

这两篇同日发布的论文像一次天然的对照实验。Google DeepMind 交出的是一段无法复现却无法否认的实录:四个通用 agent、一段话目标、一库标准 Mineflayer,27 小时后龙死了。它的科学价值不在可重复性(单次运行是最大软肋),而在过程数据的完整——从第 10 分钟的角色自组织,到第 9 小时的损失制度化,到第 21 小时『泥土柱 beating pickaxes』的领域洞察,每一步都有留痕。Harvard 交出的是一套可以复用的锻造工艺:把经济学里沉睡了三十年的 bucket brigade 装进 LLM 训练循环,用反事实分支给出参与的直接反馈,消融干净到每一份增益都可归因。

值得一提的是两篇对『局限』的处理态度。论文 A 用整整一节列出六条局限(单次运行、Easy 难度、Mineflayer 特权、预训练知识、605 次死亡与 22% 程序报错、6 次服务器重启),并单设 Responsible Development 一节说明沙箱、见证与暂停权;论文 B 在附录 D 承认三条边界(奖励质量依赖、反事实需可逆环境、算力上限)。都不粉饰,这在能力展示与训练范式两类论文里都算诚实样本。

合读的余味在于:MPT 的三个 agent 在 4B 规模上要靠拍卖学会的接力,Gemini 4 们靠着预训练里人类团队协作的先验直接就会了——但这不意味着 MPT 路线会贬值。前沿模型贵(一次通关 $810、2.4 万次调用)且不可复制(单次运行),开源小模型 + 可学习编排才可能成为日用基础设施。更可能的未来是两条线合流:用 MPT 式训练把协调能力蒸馏进权重,让中等规模模型在守则级供给下也能涌现论文 A 式的协作。届时回头看,论文 A 定义了天花板,论文 B 铺了楼梯。