论文一链接:Democratizing Robot-Use Agents: A Unified Harness with Open Models (arXiv 2611.01560) 论文二链接:ROBOARCHITECT: Automating the Design of Robotic Agents with Persistent Memory (arXiv 2610.42141) 项目页:roboarchitect-ai.github.io(RoboArchitect) 发表时间:2026年10月(RoboArchitect,10月30日提交);2026年11月(OpenRUA,11月1日提交) 机构:OpenRUA 为清华大学 + UC Berkeley 联合(含 Pieter Abbeel、Mengdi Xu、Bowen Zhou 等,高校合作无企业);RoboArchitect 为斯坦福大学 Serena Yeung-Levy 组(6 人小团队,纯高校) 领域标签:cs.RO / Agent / 具身智能

〇、导读:为什么把这两篇放在一起读

2026 年的机器人圈正在发生一个静悄悄的范式转移:大家的注意力从"训练更强的策略模型"部分转向了"设计更好的模型外围执行层"。这个外围执行层有一个贴切的名字——harness(执行挽具)。就像赛马的挽具决定了马力如何传递到路面,agent harness 决定了模型智能如何传递到物理世界:模型看到什么观测、能调用什么工具、动作怎么执行、失败怎么反馈,全部由 harness 这层代码决定。

这个方向 2026 年下半年密集涌现了一批工作,本篇选取其中两篇代表性论文合并精读,因为它们恰好覆盖了 harness 革命的两条互补路线:

  • OpenRUA(论文一,系统名为 uni-robot-agent):把 harness 本身做好、做统一,证明一个精心设计的通用 harness 能让开放权重模型首次在 RoboDojo 基准上超过闭源前沿模型的官方发布成绩。这是"harness 作为开源杠杆“路线——回答"开源模型 + 好 harness 能走多远”。
  • RoboArchitect(论文二):把 harness 的设计过程本身自动化,编码模型审阅机器人 rollout 轨迹、诊断失败、迭代修订 harness,冻结 VLA 策略权重不更新,最终在域外设置中反超同一模型的微调版。这是"harness 优化替代微调“路线——回答"harness 层还有多少未开发余量”。

两篇论文共享同一个背景判断:机器人操作的大量性能余量不在模型权重里,而在模型外围的编排层里。OpenRUA 用"同模型换 harness 分数大幅波动"证明了这一点(同一 Qwen 模型在不同 harness 下 Score 从 1.90 到 31.39),RoboArchitect 用"冻结权重只改 harness 反超微调"证明了这一点。合起来读,能看清这个新兴方向的全貌。


第一部分:OpenRUA(uni-robot-agent)精读

一、论文背景:Robot-Use Agent 与它的三重困境

1.1 什么是 Robot-Use Agent

Robot-Use Agent(RUA)是指用通用多模态大模型(VLM/LLM)直接操控真实机器人的智能体:模型读摄像头画面和任务指令,通过调用工具(移动手臂、抓取、感知场景)来完成"把红色积木放进篮子"这类操作任务。它区别于传统的 VLA(Vision-Language-Action)模型——VLA 需要在机器人演示数据上端到端训练动作输出,而 RUA 是零样本的,靠模型的通用问题求解能力(任务分解、失败恢复、几何计算)直接驱动机器人。

一个直观的类比:VLA 像"驾校科班出身的司机",看了几千小时驾驶示范;RUA 像"读过驾驶手册就上路的聪明人",靠通用智能临场应变。2026 年 GPT-6 Astra、Claude Opus 5.5 等前沿闭源模型在机器人操控上展现出惊人的零样本能力,让 RUA 路线迅速升温(Phillip Isola 于 2026 年 9 月发表的 Robot-Use Agents 一文系统阐述了这一方向)。

1.2 三重困境

但 RUA 研究在论文写作时面临三重困境:

困境一:闭源垄断。 前沿模型全部闭源,研究者只能"拿来即用"——做做 harness 设计、调调 prompt,无法进行进一步的训练研究(无法微调、无法做缓存优化、无法控制推理速度)。API 依赖还带来成本问题:论文实测 GPT-6 Astra 每个 episode 花费 21.29 美元,大规模交互实验动辄数千美元。

困境二:开放模型"看起来不行"。 开放权重模型(Qwen、DeepSeek 等)与闭源模型存在能力差距,机器人使用需要强空间理解和 agent 能力,此前的开放模型尝试大多失败。于是先前工作转向各种"偏方":利用特权信息(仿真器真值深度、任务验证器反馈)、引入任务特定 skill 库——但这些补丁模糊了问题的本质:到底是模型不行,还是没把模型的能力用出来?

困境三:harness 各自为政。 已有的 RUA harness(GAP、RoboProbe、RPent 等)各自绑定特定模型和场景,工具接口、反馈格式互不兼容,交互记录无法跨环境复用,难以支撑后续的训练研究。

1.3 论文的核心主张

OpenRUA 的主张非常鲜明:在把失败归咎于开放模型本身、堆叠各种特权补丁之前,应该先把一个可泛化、有效的 robot-use harness 建立起来,系统性地理解和释放模型既有能力。论文证明:结构化信息(相机标定、机器人描述)+ 可靠的工具反馈,就足以支撑有效的机器人使用——不需要特权输入,不需要任务特定 skill。

二、论文定位和关联工作

2.1 研究谱系一:VLA / WAM 路线(对照组)

π0.5(Physical Intelligence)、OpenVLA、Hy-Embodied-0.5-VLA 等模型走端到端训练路线,DreamZero、Cosmos Policy 等 WAM(世界-动作模型)走预测式建模路线。它们是 OpenRUA 在 RoboDojo 榜单上的主要对比对象——这些模型在各自训练分布内表现好,但泛化到新任务/新布局时大幅退化。OpenRUA 的零样本 agent 在 RoboDojo 上超过了列表中全部 VLA/WAM 基线。

2.2 研究谱系二:harness 设计先行工作

工作核心思路与 OpenRUA 的关键区别
RoboProbe(RoboDojo 团队,arXiv 2609.24170)GPT-6 Astra 官方评测 harness,验证 LLM 可直接作为策略单模型单场景;OpenRUA 是统一开放框架且开放权重反超
Robo-Harness K1(arXiv 2609.29389)把感知能力(标定深度、视觉锚点、抓取假设)作为工具暴露给 agent感知增强路线;OpenRUA 强调无特权输入原则与跨环境统一
Harness VLA / RPent(arXiv 2607.08448)冻结 VLA + 记忆引导的 agent 编排,VLA 退化为可重试原语包裹 VLA 路线;OpenRUA 包裹的是通用 VLM,无策略模型
ORA(hao-ai-lab,2026年10月发布)开放权重模型零样本 robot-use harness(RoboTwin/LIBERO-Pro)同期独立工作,结论互相印证:开放权重 + 好 harness 可行
OpenRUA 早期版(Chu et al.,arXiv 2610.02459)零抽象 harness:只给编码 agent 一个 ROS 2 终端极简路线 vs OpenRUA 的结构化工具路线,设计哲学相反

值得注意的是 Chu et al. 的 OpenRUA(零抽象)与本文的 uni-robot-agent 形成有趣的对照:前者只给终端和文档让 agent 自组织,后者提供精心设计的共享工具集——两者都成功,说明 harness 设计空间还存在很大的自由度。

2.3 定位结论

OpenRUA 在研究脉络中的位置:第一个以"统一 + 模块化 + 无特权 + 可训练"为设计原则、且让开放权重模型在 RoboDojo 上超过闭源官方结果的 robot-use harness。它不追求单点算法创新,而是建立社区可复用的基础设施——类似 OpenHands 之于 computer-use agent。

三、问题定义

3.1 从具体场景到抽象问题

具体问题:如何让一个没见过任何机器人训练数据的开放权重多模态模型,在真实部署条件下(只有 RGB 图像、相机标定、机器人本体感知)零样本完成桌面操控任务?

深层洞察——论文发现的抽象结构:机器人使用的关键不是"给模型更多特权信息",而是"给模型可靠的结构化信息与反馈通道"。这可以形式化为:

  • 给定:开放权重模型 M;任务指令 T;非特权观测流 O = {RGB 图像, 相机标定参数, 机器人本体感知};共享工具集 Tools = {运动, 感知, skill, episode 控制}
  • 求:harness 设计 H,使得 (M, H) 组合的期望任务得分最大化,且 H 跨模型/跨本体/跨环境可复用
  • 约束:不使用仿真器真值深度、CAD 资产、任务验证器反馈、外部网络;不蒸馏闭源模型

3.2 这个抽象的精妙之处

把"harness 最大化模型既有能力"设为目标,而不是"训练模型获得新能力",意味着:模型的机器人使用能力可能大部分已经存在于预训练分布中,缺的只是释放通道。这个假设被论文第四部分的跨代际分析验证——Qwen3.8-27B(27B 参数)能完成任务而 Qwen3.5-122B(122B 参数)成功率为零,说明决定性因素是训练分布而非规模,而 harness 正是把分布中已有的能力"接出来"的那根线。

类比:模型像一座已经建好的水电站,harness 像输电网络。发不出来电往往不是机组问题,是电网没接好。

四、问题解法:uni-robot-agent 的设计

4.1 五层模块化架构

类比操作系统的分层内核设计,一次工具调用穿过五层,每层接口显式可替换:

层职责类比
01 Agent模型交互与上下文管理(支持 Codex/Claude Code 等运行时)用户态程序
02 Orchestration调度分发:串行/并行执行、资源独占管理进程调度器
03 Tools共享工具实现:GripperTools(move/grasp/release)、SceneTools(capture/locate)、SkillTools、EpisodeTools系统调用
04 Services领域服务运行时:EnvironmentService、ActorService、PerceptionService守护进程
05 Backends具体实现:RoboDojo 适配器、OpenPI/JAX、SAM3 推理设备驱动

核心设计是 N 工具 × M 适配器避免 N×M 实现:共享工具通过环境适配器访问观测与原语动作,新增一个环境只需写一个适配器而非重写所有工具。统一请求/反馈格式还让跨环境收集的交互记录可直接合并用于训练——这是"支持后续训练"目标在架构上的落点。

4.2 两阶段流水线执行

类比:CPU 流水线重叠取指与执行。 传统串行交互中 agent 发一个工具调用就干等结果,推理与执行完全串行。uni-robot-agent 的观察是:决策不需要等待动作完成——agent 可以在手臂移动时继续思考下一步。

实现机制是两级并发:

  • agent 与工具之间:后台调用返回 job handle,agent 继续独立推理,稍后取结果;依赖结果的调用仍会等待
  • 工具调用之间:共享独占资源(如同一只手臂)的调用按提交顺序执行;不共享资源的调用真正并行

实测模型-动作重叠率达 84.5%–93.8%,五个测试任务的 episode 时长下降 4.8%–73.7%(swap_T 从 34.7 分钟降到 12.5 分钟)。flush_queue 支持观测变化后取消未开始的调用——流水线不是无脑并行,计划变更时能及时止损。

4.3 六项关键工程设计

这是论文最有工程含金量的部分,每一项都对应真实部署中的一类错误:

设计防范的错误机制
不可变快照“旧标定配新像素”——图像拍摄后机器人动了,用新位姿解释旧图像图像+标定+机器人状态绑定为带版本号的快照,定位一律基于快照
请求幂等通信失败重试导致物理动作重复执行(重复抓取)记录请求身份与执行状态拒绝重复;状态不明时阻塞新动作并尝试恢复执行记录
move+gripper 联合指令分离指令无法在移动中调整夹爪开度move 工具接受目标位姿+可选夹爪开度,臂与爪同时动作
基于实测位姿的渐进停止固定步数停止太早或浪费步数从实测位姿生成中间路点,逐步检查进展,到达/停滞/异常/超限时返回控制权并报告原因
数值+图像可诊断反馈到达位姿≠任务成功,agent 无法区分返回位姿误差、停止原因等数值反馈 + 结果图像,帮助 agent 决定精修还是换策略
滑窗图像驱逐视觉历史膨胀撑爆上下文旧图像替换为文本占位符,保留近期图像与全部文本/动作记录;批量驱逐保持前缀稳定支持缓存复用

4.4 无特权输入原则

仿真中可用的仿真器真值深度、CAD 资产、任务验证器反馈,在真机上全部不存在。uni-robot-agent 的立场:只用真实部署中存在的信息——RGB 图像 + 相机标定 + 本体感知 + 任务指令。论文手动核查了全部实验中模型未违规访问被禁信息。这个原则使得仿真成绩能自然迁移到真机(论文真机实验即验证)。

五、评估指标与实验证据

5.1 指标体系

  • 主指标:RoboDojo Score(0–100,含部分成功计分)与成功率 SR(%)。RoboDojo 含 42 任务 × 5 能力维度(泛化/记忆/精度/长程/开放词汇),3 种子 × 2 布局共 252 episodes
  • 辅助指标:每 episode token 用量与 API 成本;episode 时长;模型-动作重叠率;跨模型失败模式分布
  • 消融指标:深度信息三档(RGB+深度+标定 / RGB+标定 / 纯 RGB);skill 库开/关

5.2 主结果一:仿真——开放权重首次超过闭源官方结果

模型 + harnessSR (%)Score
Qwen3.8-Flash-Next + uni-robot-agent25.0031.39
GPT-6 Astra + RoboProbe(官方)22.4828.97
DeepSeek-V4.1-Flash + uni-robot-agent21.3927.11
Xiaomi-Robotics-1(最强 VLA/WAM)13.9320.07
OpenWAM-α11.9217.18
π0.56.9311.44
GPT-6 Astra + uni-robot-agent46.6751.90

这是首个无特权输入、无闭源蒸馏的开放权重系统在 RoboDojo 上超过闭源基础模型发布结果。注意最后一行:Astra 换上 uni-robot-agent 后从 28.97 涨到 51.90,证明 harness 设计对闭源模型同样增益——harness 的贡献独立于模型。

同模型换 harness 的对照实验(证明 harness 贡献的最干净证据):

同为 Qwen3.8-Flash-NextScore
+ uni-robot-agent31.39
+ GAP (Hybrid)21.01
+ RPent7.75
+ RoboProbe1.90

同一模型,harness 不同,Score 从 1.90 到 31.39(16 倍差距)。harness 本身贡献至少 +10.38 分。

5.3 主结果二:真机 19 任务

自制双臂真机基准(5 维度 × 20 分):Qwen3.8-Flash-Next 得 49.50,超过零样本 Dream-1(35.50),匹配微调 π0.5(47.75,每任务用了 10 小时演示数据);GPT-6 Astra 达 75.50。注意一个不公平但值得记录的细节:uni-robot-agent 配置额外使用了 RealSense D405 的深度流,而 π0.5 和 Dream-1 只用 RGB。

成本数据同样关键:Qwen 每 episode 1.09 美元 vs Astra 21.29 美元,约 20 倍差距——开放模型的经济性论证。

5.4 主结果三:四能力归因分析(科学贡献)

跨 13 个模型(Qwen3.5–3.8、DeepSeek、GLM、GPT-5.6/6.1/6)的轨迹失败分析,识别出四类主导失败模式:

失败模式旧模型错误率强模型错误率衡量的本质能力
一般视觉理解(看错物体/结果)12.2–23.8%3.2% 或更低基础感知
空间 grounding(跨视图选点不一致)高(被三角化工具拒绝)GPT-6.1 Sol 最低 31.5%3D 对应点定位
几何编码(坐标变换/四元数约定错误)47.3–81.8%Qwen3.8-Flash 8.2%、GPT-6.1 Sol 0%机器人专用计算
具身推理(提出物理不合理的抓取位姿)GLM-5.3 达 26.2%新模型更低物理交互常识

更进一步的关联分析:四能力与通用基准显著正相关——ERQA(具身推理)r=0.97、MMMU-Pro(视觉理解)r=0.93、LiveCodeBench(代码)r=0.75、ScreenSpot-Pro(grounding)r=0.69(弱相关,作者解释:后者是 2D 屏幕 grounding,机器人需要 3D)。

这个分析证明力在哪:它把"哪个模型能用好机器人"这个黑箱问题,拆解为"哪四项通用能力到位"的白箱问题,并给出可操作的训练建议——未来 RUA 训练应联合发展这四项能力(例如用机器人数据构造针对每项能力的训练任务),而不是只拟合动作输出。

5.5 消融:特权信息到底值多少分

  • 深度消融:去掉深度只留标定,Qwen 从 35.89 降到 31.39(保留 87.5%),Astra 从 55.83 到 55.04(保留 98.6%);纯 RGB(无标定)Qwen 骤降至 9.13。结论:标定参数是必需品,深度是奢侈品——附录 E 展示 Qwen 自己写几何代码做跨视图三角化恢复 3D 坐标(重投影误差 0.46/1.94 像素),说明强模型可以"算出"深度
  • skill 库消融:完全去掉 skill 库,Score 30.31 vs 31.39(保留 96.6%),SR 差 0.42 个百分点。结论:性能不依赖 skill 库中的任务特定知识,排除了"skill 泄漏特权信息"的质疑

六、效果优势的根源解释

6.1 根源机制与证据链

对比对象:其他 harness(RoboProbe/RPent/GAP)与 VLA/WAM 模型。它们为什么曾经有效?RoboProbe 绑定单一强模型,验证了 LLM 直接作策略的可行性;VLA 在训练分布内有精确的 visuomotor 技能。

baseline 的根本局限(机制层面):

  1. VLA/WAM 的局限:训练分布内精确但分布外脆弱——任务变化、布局扰动、新物体都会打破动作分布假设。长程任务上 OpenWAM-α(34.93)虽高于 Qwen(23.75),但整体被压制。
  2. 弱 harness 的局限:工具反馈信息量不足或不可靠时,模型的失败无法被观测、无法被纠正——错误级联。例如 RoboProbe 下 Qwen 只有 1.90 分,并非模型完全无能,而是 harness 没有提供让模型恢复的通道。

因果链(每步标注证据等级):

  • 链 1:相机标定参数 → agent 能跨视图三角化恢复 3D 坐标(附录 E:Qwen 自写最小二乘光线求交代码,重投影误差 <2 像素)→ 深度特权信息的边际价值降低 → 去深度仅掉 12.5% 分数【论文实验已支持:消融数据 + 代码案例】;纯 RGB 无标定时骤降至 9.13 反证标定是关键通道【论文实验已支持】
  • 链 2:快照一致性 + 幂等执行 → 消除"旧标定配新像素"和"重复物理动作"两类真实部署错误 → 仿真到真机迁移时性能保持(真机 49.50 匹配微调 π0.5)【论文实验已支持:真机结果;机制推断部分为阅读者推测——论文未做逐错误类型的真机消融】
  • 链 3:两阶段流水线利用"决策不等动作"的并发性 → 墙钟时间减半以上(swap_T 34.7→12.5 分钟)→ 长程任务的可行性提升【论文实验已支持:重叠率 84.5–93.8% 实测】
  • 链 4:数值+图像双重反馈 → agent 能区分"小残差"与"被拒绝/停滞"→ 更聪明的重试策略【论文实验已支持:附录 F 案例显示 agent 在执行期间准备低位抓取的间隙检查代码】
  • 链 5:四能力(视觉理解/空间 grounding/几何编码/具身推理)联合决定机器人使用成败 → 训练分布差异(而非规模)解释跨代际跳变【论文实验已支持:13 模型失败分析 + r=0.61–0.97 相关性;“训练分布"归因本身是论文的推测性论断,作者用"We posit"措辞】

阅读者推测(明确标注):论文未直接测量"统一接口带来的跨环境数据合并收益”(这是架构设计动机之一,但训练实验留待未来工作);harness 六项设计之间的相对贡献也未逐一消融——各设计可能存在交互效应,当前证据只能支持"整体组合有效"。

6.2 相关工作检索与对照

以下为围绕关键机制的外部检索结果(检索于 2026-11-03,均给出可核验链接):

研究(链接)相似尝试相关结论与本文的差异与适用边界对根源解释的影响
RoboProbe: GPT-6 Astra 早期评测(arXiv 2609.24170)LLM 直接作策略的官方评测Astra 22.48% SR 超全部公开策略;GPT-5.5 仅 0.88%——模型间差异巨大单模型官方 harness,开放权重下不可用支持"能力分布决定成败";其 Astra 极化能力剖面(语义强/精度弱)与本文四能力分析互补
Harness VLA / RPent(arXiv 2607.08448)冻结 VLA 作可重试原语 + 记忆引导编排LIBERO-Pro 上比最强基线 +38.6pp包裹 VLA 而非通用 VLM;需要任务特定记忆支持链 4(可靠反馈+编排可释放冻结策略能力);限定:其记忆方案依赖参考种子探索,本文 skill 库消融显示非必需
Robo-Harness K1(arXiv 2609.29389)感知工具化(标定深度/锚点/抓取假设)Gemini 3.7 Flash + K1 达 77.8% 超 Astra RGB-only harness提供标定深度(本文禁用);证明感知接口设计是关键变量支持链 1 的对偶面:不靠模型算深度而是把深度做成工具,同样有效——说明"深度获取通道"比"深度本身"重要
OpenRUA 零抽象版(arXiv 2610.02459)只给 ROS 2 终端的极简 harnessClaude Code 达 CaP-Bench 99.0%、LIBERO-PRO 87.0%;agent 自发写度量程序 96.8% episodes依赖极强编码模型;设计哲学与本文相反(零抽象 vs 结构化工具)强支持链 1(agent 自写几何代码是普遍涌现行为,非本文 harness 特有);同时限定:极简路线在开放权重弱模型上未必可行(本文 Qwen 在 RoboProbe 下仅 1.90 分的对照暗示弱 harness+弱模型会崩)
ORA:开放 robot-use agent(hao-ai-lab,2026-10)开放权重(DeepSeek-V4.1-Flash)零样本 harnessRoboTwin 69.2%、LIBERO-Pro 81.4%;每 solved case 约 0.35 美元不同基准(RoboTwin/LIBERO-Pro vs RoboDojo);同期独立工作结论相近的独立印证:开放权重 + 精心 harness 可行且便宜——多项研究共同支持
HexaShell(arXiv 2610.23479)薄 harness:命令行转运动 + agent 写工具RoboDojo 官方榜 46.9% SR(SOTA),工具冻结后跨真机迁移后续工作;acting/optimizer 双 agent 分工支持链 1/链 3;其"接触而非推理是瓶颈"(precision 32.0% vs memory 81.0%)限定本文优势边界——uni-robot-agent 在精度维(10.21)同样最弱
Show-Harness(arXiv 2609.10522)VLM agent 直接玩机器人证明 VLM + 合适 harness 即可操作机器人NUS Showlab,接口设计路线补充:harness 让 VLM 玩转机器人的结论在多团队独立复现
ZeroDex 多视图 3D grounding(arXiv 2606.19340)VLM 2D 关键点 + 多视图三角化提升 3D标定多视图三角化优于单视图 RGB-D 与微调 VLA灵巧手长程任务场景方法相似(三角化)+ 结论相近(标定多视图通道有效),跨场景支持链 1
Embodied Agent Arena 开放权重执行差距研究(arXiv 2610.00854)系统测量开放 vs 闭源权重执行能力开放权重空间推理 48–52% 但操作仅 9.9–20.9%,差距真实存在含导航/操作多域评测限定性证据:开放权重执行差距在其他基准上显著——本文的优势声明应限定在"harness 弥合后"的 RoboDojo/真机场景

检索说明:以上覆盖 robot-use harness(RoboProbe/K1/ORA/Show-Harness/HexaShell)、冻结策略编排(Harness VLA)、多视图几何(ZeroDex)、开放权重差距(EAA)四条线。未找到专门消融"快照一致性/幂等执行"单项设计的独立外部研究——这两项机制的证据目前主要来自本文自身,标注为证据缺口。

6.3 综合判断与未决问题

多研究共同支持的机制:(1) 结构化几何通道(标定/三角化)可替代深度特权——OpenRUA、K1、ZeroDex、HexaShell 四方独立证据;(2) 开放权重 + 好 harness 可达 competitive——OpenRUA、ORA 双方独立印证;(3) harness 对同一模型的放大作用巨大(本文 16 倍差距,HexaShell 在官方榜的跃升同向)。

仍属推测的机制:训练分布(而非规模)解释 Qwen 跨代际跳变——论文相关性证据强但无因果实验;快照/幂等设计的独立贡献——无单项消融与外部复现。

优势成立条件:模型需已具备基本视觉理解与几何编码能力(Qwen3.5/3.6/3.7 在同一 harness 下 SR 为零——harness 放大能力但无法无中生有);任务以桌面抓放为界,精度/接触富任务(precision 维 10.21 分)仍是短板(HexaShell 的剖面证据同向)。

可能失效条件:动态任务(传送带、抛接)、接触动力学丰富任务、以及真机深度不可靠场景(真机实验即依赖了 D405 深度——论文自己承认这与无特权原则存在张力)。

七、必要知识反推

假设让一个没有背景的人完成 OpenRUA 这项工作,最少需要掌握:

7.1 领域知识层

  • 机器人操作基础:机械臂运动学(位姿、四元数)、夹爪控制、相机内外参标定——不理解就无法设计"标定替代深度"的通道,也无法读懂轨迹分析中的坐标变换错误
  • RUA/VLA/WAM 版图:知道 RoboDojo 基准的 42 任务 5 维度协议、π0.5/OpenWAM 等基线的意义——否则无法定位"首个开放权重超闭源"声明的价值

7.2 方法论知识层

  • Agent harness 设计模式:工具接口设计、MCP 适配、上下文管理(滑窗驱逐、前缀缓存)——来自 computer-use agent 的工程积累直接迁移
  • 评测方法论:部分成功计分、多种子多布局平均、消融设计(深度三档、skill 开关)——保证 252 episodes 的结论统计可靠
  • 失败分析方法论:跨 13 模型的轨迹错误分类学(四能力框架)与 Pearson 相关分析

7.3 工程知识层

  • 分布式系统思维:幂等性、不可变快照、资源独占调度、两阶段流水线——六项关键设计全部源自分布式系统经典问题在物理世界的投影
  • 成本建模:按 token 类型(输入/缓存/输出)与长上下文加倍规则精确估算 API 成本

7.4 知识融合的关键节点

最有创造性的融合点:把分布式系统可靠性技术(快照、幂等)翻译到物理机器人场景。通信领域的"消息重发"在物理世界变成"重复抓取动作"——这个映射不是任何单一领域的知识,而是跨域类比产生的化学反应。同样,“CPU 流水线"到"推理-执行重叠"的迁移也是关键节点。

八、论文中可以提取的通用性灵感

灵感一:结构化信息通道优于特权信息注入。 核心思想:给系统一条可靠的信息通道(标定参数),比直接喂给结果(深度图)更通用、更鲁棒。论文证据:去深度保留 87.5–98.6% 分数;纯 RGB 骤降证明通道本身不可省。推广场景:(1) 教育系统——教方法论 vs 直接给答案;(2) 推荐系统——给用户可解释的特征通道 vs 黑盒标签;(3) 编译器优化——提供 profiling 接口 vs 内置启发式;(4) 组织管理——透明信息流 vs 层层加工的汇报。

灵感二:能力放大器思维。 harness 的价值不在自身多强,而在把既有能力的方差缩到最小(同模型 1.90→31.39)。推广场景:(1) 员工 onboarding 体系是个人能力的 harness;(2) 数据库索引是查询引擎的 harness;(3) 良好的 API 设计是模型能力的 harness;(4) 教学脚手架(scaffolding)是学习者能力的 harness。

灵感三:用跨代际/跨家族自然实验做能力归因。 不训练任何新模型,仅利用模型发布的时间序列(Qwen3.5→3.8、GPT-5.6→6.1)做自然实验,把"能力从哪来"拆解为可测量的失败模式分布。推广场景:(1) 药物流行病学的自然实验设计;(2) 经济政策的城市对照;(3) 用模型版本演进研究推理能力的涌现;(4) A/B 测试之外的准实验方法。

灵感四:并发性分析要基于任务依赖而非流程外观。 “决策不等动作完成"的洞察来自分析信息依赖(下一步推理不依赖本步物理结果),而非照搬串行流程。推广场景:(1) 微服务拆分按数据依赖而非组织结构;(2) 编译器指令重排;(3) 手术团队并行准备;(4) 数据管线的任务级并行。


第二部分:RoboArchitect 精读

一、论文背景:harness 手工设计之痛

1.1 背景承接

第一部分讲到 harness 决定模型能力的释放程度。那么下一个自然的问题:harness 本身该怎么设计? 现状是手工设计——VoLo、Harness VLA 等系统展示了手工 harness 包裹冻结策略的巨大收益,但每个新机器人、新基准都要重新设计,工程成本高且难穷尽。

1.2 人类工程师的试错循环

手工设计 harness 遵循一个熟悉的循环:跑 agent → 观察失败 → 诊断原因 → 修改控制代码 → 再测试。这个循环慢的原因有二:一是长轨迹录像(逐步相机帧、机器人读数、模型调用)人类难以穷尽检查;二是诊断-修改-验证每轮都要数小时。

1.3 核心问题

这个完整的工程循环——从诊断失败轨迹到修订 harness 设计——能否自动化? 如果能,harness 优化就可能成为微调的替代方案:面对新机器人设置,不采数据不更新权重,只迭代 harness。

二、论文定位和关联工作

2.1 谱系一:VLA 适配的三条路

路线代表工作思路与 RoboArchitect 的区别
权重更新OpenVLA/π0.5 微调、RLinf采数据训权重贵、分布外泛化差;RoboArchitect 冻结权重
推理时机制检索演示条件化(arXiv 2606.15631)、动作值函数选择冻结策略 + 单一机制机制是预定义的;RoboArchitect 从零演化完整接口
编排层VoLo、Harness VLA、层次化 VLA 研究(arXiv 2606.10267)手写 agent 编排冻结策略架构人工预设;RoboArchitect 自动化设计

2.2 谱系二:code-as-policy 路线

Code as Policies(arXiv 2209.07753)证明 LLM 可写程序直接控机器人;CaP-X(arXiv 2603.22435)指出编码 agent 成败高度依赖手写原语;Rho(arXiv 2606.16458)探索编码 agent 直接做机器人学。这些工作与 VLA 被视为两个对立范式——RoboArchitect 的一个 surprising 发现是把两者统一为 harness 可自动选择的谱系。

2.3 谱系三:自动代码优化 / ADAS

这是方法论上最直接的谱系:ADAS(arXiv 2408.08435,Hu & Clune)提出用 meta agent 在图灵完备代码空间搜索 agent 设计;Darwin Gödel Machine(ICLR 2026)做自改进 agent 的开放式进化;Evo-harness(arXiv 2608.15071)做上下文到 harness 的技能编译。机器人领域内,Eureka 自动生成奖励函数、ENPIRE 修订训练配置——但这些最终产物都服务于训练权重;技能库路线(ASPIRE 等)优化的程序完全替代策略。RoboArchitect 的独特位置:优化围绕冻结策略的 harness,让代码自主决定策略与程序控制的分工。

2.4 定位结论

RoboArchitect = ADAS 方法论 × 机器人场景 × 冻结 VLA。它是首个给出"harness 优化可替代微调"系统证据的机器人工作(同 held-out 集上进化 harness vs 微调权重的直接对比)。

三、问题定义

3.1 抽象问题

具体场景:一个在新机器人/新基准上表现很差的冻结 VLA 策略,如何不更新权重就变成该设置的专家?

抽象洞察:harness 设计本质上是一个带执行反馈的程序搜索问题。形式化:

  • 给定:冻结策略 π、辅助工具集(LLM/VLM/检测/分割/pointing/抓取生成/几何投影)、训练 episodes 集 E_train、编码模型 C
  • 求:harness 程序 H(observations + 指令 → 机器人动作向量),其中 H 可任意混合三种控制来源:跟随 π / 调用工具 / 程序化直接控臂
  • 约束:优化只看 E_train 上的执行轨迹;最终在 held-out episodes(unseen scenes / unseen tasks)上评测;最多 5 轮迭代

3.2 精妙之处

把"新设置适配"从参数空间(微调:连续、不可解释、需要演示数据)搬到程序空间(harness:离散、完全可解释、只需要 rollout 记录)。程序空间的每次修订都针对具体失败模式、可检查可回滚——这是权重更新做不到的可审计性。类比:微调像"给员工洗脑培训”,harness 进化像"给员工写操作手册”——后者每次改动都能 diff 出来看。

四、问题解法:ROBOARCHITECT 的机制

4.1 初始状态与优化循环

初始 harness 是裸策略直通:观测原样转发给冻结 VLA,动作原样返回——此时就是标准裸策略评测。优化循环复刻人类工程师的试错:

  1. 执行与记录:harness 在训练 episodes 上运行,记录完整轨迹(逐步相机帧、机器人读数、所有模型与工具调用)
  2. 诊断:编码模型(claude-opus-5,Claude Code 客户端,max effort)审阅执行轨迹,诊断失败模式
  3. 修订提案:提出候选 harness 修订——可跟随策略、调用辅助工具、或程序化直接控臂
  4. 验证与接受:同训练集重评,仅当超越当前 harness 才接受(单调优化,上限 5 轮迭代)

接受准则遵循自改进 agent 的经验验证先例(Darwin Gödel Machine 等),保证训练集上性能单调不降。

4.2 辅助工具箱

harness 可查询的预训练工具:语言模型(Qwen3-30B-A3B)、VLM(Molmo2-8B / Qwen3-VL-8B)、目标检测(Grounding-DINO)、分割(SAM 3)、pointing(Molmo2-8B)、抓取位姿生成(GraspGen)、几何工具(像素-深度对投影到 3D 基座坐标、相对轨迹原语生成)。这些工具给 harness 提供了冻结策略之外的替代信息源与动作源。

4.3 无 schema 持久记忆

这是论文最独特的机制:提供持久记忆机制但不预定义任何 schema——存什么、以什么形式存、如何检索,完全由优化过程自主决定。涌现出的记忆形态(论文第 4.4 节):

  • 执行经验:记录成功抬起物体的抓取深度(按物体实测高度的比例索引)——新物体直接查表
  • 握持风格:记录每个物体哪种握姿(捏/撑)成功过
  • 任务线索:RoboCasa 上记录"press 类任务很少需要持物、pick 类任务需要"——决定空抓恢复例程是否启用
  • 环境规律:RoboCerebra 的 150 步场景重置周期被发现并存储
  • 本体校准:统一 harness 记录每个机器人手指闭合方向(通过空夹观察深度图中的运动),指导抓取腕部朝向

关键区分:这些记忆是所设计 agent 内部的数据结构(执行时跨 episode 持久累积),不是编码模型的上下文——每次评测从空记忆开始累积,held-out episodes 上依然高效(每 episode 读取 3.4–13.0 次,92–99% 命中率)。

4.4 评测协议:三重泛化测试

  • Unseen scenes:训练/评测同任务不同布局——测场景泛化
  • Unseen tasks:held-out 是不同任务但共享底层技能——测技能级泛化
  • 统一 harness:在程序化生成的 2201 个训练 episodes 池上进化单一 harness,评测于 2160 个标准 benchmark episodes(跨 Franka/WidowX/Google 三本体)——测跨本体泛化;harness 运行时从动作规范与本体感知读取本体差异,不硬编码常数

五、评估指标与实验证据

5.1 指标与设置

主指标:各基准标准指标(VLABench 用官方进度分,其余用成功率),统一简称成功率。5 基准 × 7 冻结策略(MolmoAct-2、OpenVLA-7B、π0.5、RLinf-π0.5、SmolVLA、X-VLA、RLDX-1),每设置最多 5 轮迭代。与微调对比时用同模型的公开微调 checkpoint 在同 held-out 集上评测。

5.2 主结果:增益幅度与微调对比

设置(held-out)裸策略进化 harness微调版
全部设置均值 · unseen scenes9.7%43.3%(4.5×)—
全部设置均值 · unseen tasks12.7%40.2%(3.2×)—
跨基准+域外均值 · unseen scenes7.3%58.4%(+696%)—
跨基准+域外均值 · unseen tasks6.3%48.7%(+671%)—
X-VLA on VLABench · unseen scenes7.3%52.6%35.2%
X-VLA on VLABench · unseen tasks1.2%72.5%32.1%
X-VLA on SimplerEnv WidowX · unseen scenes0.0%87.5%70.8%
X-VLA on SimplerEnv WidowX · unseen tasks0.0%66.7%87.5%
统一 harness · 通用 X-VLA · 训练池/held-out1.8 / 1.9%41.6 / 28.8%(held-out +1417%)—
统一 harness · 专家 X-VLA · 训练池/held-out58.0 / 45.9%60.7 / 47.0%(正确保持)—

这张表证明了什么:(1) 增益幅度巨大且跨 11 个设置几乎全部为正(唯一例外 RLDX-1 域内 unseen scenes −0.2pp——域内已强无余量);(2) 域外设置增益最大(+696%/+671%),支持"新设置适配"卖点;(3) 三个直接对比中两个反超微调版(52.6 vs 35.2、87.5 vs 70.8),仅 WidowX unseen tasks 落后(66.7 vs 87.5)——冻结权重 + 进化 harness 可以超过完整权重更新;(4) 包裹微调专家时正确保持其能力不破坏(58.0→60.7)。

5.3 迭代 vs 一次性设计

编码模型第一次尝试(One-Shot,看裸策略失败后一次设计)已经很强(unseen scenes 均值 21.4%),但迭代版本(43.3%)在几乎所有 held-out 集上超过 one-shot——agent 自身执行产生的新证据暴露了更隐蔽的失败模式,后续修订修复它们。例如 VLABench 的 code-as-policy agent 第一轮就建成,但只有它自己的 rollout 才暴露出视觉工具无法可靠区分麻将牌面的问题,后轮修订出"候选列表逐个尝试"机制。

5.4 定性证据:涌现的直觉控制策略

进化出的控制例程都是人类工程师能看懂(甚至拍案)的直觉逻辑:

  • 卡臂抬升清障:监测指令与实际运动的持续不一致(卡住),先抬起手臂清障再重新查询策略(MolmoAct-2 顶倒果汁盒 → 检测卡住抬升)
  • 架下水平伸入:深度图检测头顶障碍,计算水平接近向量(X-VLA 从上方撞书架板 → 转腕侧向伸入取书)
  • 力矩重标定:烤炉门需要闭合到开启范围 0.5% 内,策略推力太轻,harness 保持方向重标定动作幅度(RLDX-1)
  • 按实测几何重定向:LIBERO-Pro 打乱位置后策略仍伸手去记忆位置,harness 查询 pointing 模型定位指令目标(RLinf-π0.5 伸向煎锅位置 → 重新定位到 moka pot)

5.5 记忆使用统计

held-out episodes 上每 episode 平均读取记忆 3.4(VLABench 抓取深度)到 13.0(RoboCerebra 重置周期)次,92–99% 的读取命中存储条目。由于每次评测从空记忆开始,这证明记忆条目的设计(而非具体内容)成功迁移到未见场景。

六、效果优势的根源解释

6.1 根源机制与证据链

对比对象:微调(参数空间适配)与裸策略(无 harness)。

微调的根本局限:新设置的域差距通常靠采演示 + 微调弥合,但(a)演示采集昂贵,(b)微调技能常无法泛化出训练分布(LIBERO-Pro 的空间换位研究正是为此设计),(c)权重更新不可解释不可检查。

因果链:

  • 链 1:harness 层存在大量未开发余量(何时查策略/查视觉工具/直接控臂的编排决策空间)→ 自动化"诊断-修订-验证"循环把工程师试错交给编码模型 → 每次修订可解释可检查 → 11 设置几乎全部正增益【论文实验已支持:Table 1 + 图 10–12 逐轮轨迹】
  • 链 2:泛化来源是控制例程基于实测几何与机器人自身感知,而非硬编码对象名/位置 → 换场景换物体时例程仍然成立 → unseen scenes/tasks 正迁移【论文实验已支持:修订代码的定性分析;“实测几何索引是泛化来源"的因果解释部分为论文论证 + 阅读者认同的机制推断】
  • 链 3:记忆按物理量(物体高度比例、握姿统计)而非任务名索引 → 经验跨物体跨任务迁移 → held-out 上 92–99% 命中【论文实验已支持:记忆使用统计 + 条目形态】
  • 链 4:当策略完全无信号时(通用 X-VLA 在 WidowX 上每步全开夹爪),harness 演化为纯 code-as-policy(训练集 0→100%)→ 策略有效时保留其能力 → VLA 与 code-as-policy 被统一为可自动选择的谱系【论文实验已支持:WidowX 案例 + 统一 harness 包裹专家时保持 58.0→60.7】
  • 链 5:为何能超微调——微调把所有失败模式压进同一个权重更新,受演示分布约束;harness 修订针对离散失败模式逐一修复,且不破坏原有权能【论文实验已支持:三个直接对比;机制解释为阅读者推测——论文未做权重层面的分析】

反事实推理:去掉迭代(只留 one-shot)增益从 43.3% 降到 21.4%——一半以上的增益来自 agent 自身执行产生的新证据。去掉接受门槛(每次修订都接受)可能过拟合训练 episodes——论文通过 held-out 协议反证了这一风险的管控有效性。

6.2 相关工作检索与对照

研究(链接)相似尝试相关结论与本文的差异与适用边界对根源解释的影响
ADAS:自动 agent 设计(arXiv 2408.08435)Meta agent 在代码空间迭代编程新 agent发明的 agent 超手工设计且跨域迁移文本/数学/编码域,无物理执行方法相似(代码空间+归档搜索),为链 1 提供跨域支持:自动代码搜索优于手工是普遍现象
Darwin Gödel Machine(ICLR 2026,arXiv 2605.22794 同族)自改进 agent 的开放式进化保留验证门槛的单调优化有效无机器人物理场景支持接受准则设计(链 1 的验证环节)
Eureka(reward 设计自动化)编码模型生成奖励函数迭代优化代码模型可超越人类专家做设计类任务产物服务权重训练,与本文互补方法相似 + 结论相近(代码模型设计能力),补充:两条路线可组合
Harness VLA / RPent(arXiv 2607.08448)手工设计冻结 VLA 编排记忆引导编排大幅超基线架构人工预设;本文自动化生成支持链 2/3(编排层余量真实存在);其手写记忆 schema vs 本文涌现记忆形成对照
层次化 VLA 编排研究(arXiv 2606.10267)系统研究层次化 VLA 组件协同设计planner/控制器/切换逻辑需协同设计分析性研究,无自动化支持"harness 组件协同设计是关键变量”,从分析侧印证编排余量
Meta-harness:端到端 harness 优化(arXiv 2603.28052)通用 harness 端到端优化harness 可作为优化目标非机器人场景支持链 1 的普适性
HarnessDev(arXiv 2609.01437)基准:LLM 能否创建并演化自己的 harness生成 harness 在代码/搜索域落后成熟人工实现,演化增益不稳定且跨模型迁移有限相反结论的证据:文本域中自动 harness 设计未达人工水平重要限定:机器人域的成功可能得益于失败模式更可诊断(物理执行证据);文本域证据提示链 1 的边界——自动化设计并非处处占优
Self-Evolving Harness(arXiv 2609.38372)同一冻结模型自任 solver 与 proposer 演化 harness多域联合演化可行同期工作,非机器人补充:同模型自演化路线在通用域并行发展
VoLo(arXiv 2606.07723)策略作为可中断工具的物理编排器开放词汇长程操作手工设计支持编排层余量(链 1 的前提)
LIBERO-Pro(arXiv 2510.03827)空间换位基准暴露 VLA 记忆化VLA 过拟合记忆位置是系统现象本文的评测基准之一支持"微调泛化差"的对照前提——RoboArchitect 的重定向例程正是修复此失败模式

检索说明:覆盖 ADAS 方法族、机器人编排先行工作、自动 harness 评测三个方向。特别收录了 HarnessDev 的相反结论证据以划定适用边界。未找到专门研究"无 schema 涌现记忆 vs 预定义记忆 schema"对照的独立工作——该机制的外部验证目前为空,属证据缺口。

6.3 综合判断与未决问题

多研究共同支持:(1) 编排层(harness)余量真实存在且巨大——VoLo、Harness VLA、Hu et al. 协同设计研究、RoboArchitect 四方证据;(2) 代码空间自动搜索优于手工在多域成立——ADAS、Eureka、Meta-harness;(3) 微调泛化受限(LIBERO-Pro 系列证据)。

仍属推测:(1) “harness 修订逐一修复离散失败模式所以能超微调”——直接对比存在但机制解释未经权重层面验证;(2) 涌现记忆的 schema 自由度是否真优于预定义 schema——无对照实验亦无外部复现。

优势成立条件:失败模式可从轨迹诊断(桌面 pick-and-place 类满足;论文自述接触动力学丰富的灵巧操作/工具使用是未验证边界);有可用的辅助工具箱(检测/分割/pointing 质量影响上限);训练 episodes 与 held-out 共享底层技能。

可能失效条件:迭代上限 5 轮后的收益饱和点未知(论文自列为局限);全部实验在仿真,真机 sim-to-real 未验证(接口声称可迁移);策略"部分有用"的中间地带(如策略 60% 时间有效)的分工优化可能比纯两端更难。

七、必要知识反推

7.1 领域知识层

  • VLA 生态:各策略模型(π0.5/X-VLA/SmolVLA 等)的训练分布特性、微调 checkpoint 生态——否则无法设计"训练源距离"分级与公平的微调对照
  • 各机器人基准的协议细节:LIBERO-Pro 的空间换位逻辑、RoboCerebra 的 150 步重置、VLABench 的进度分——这些环境规律甚至被 harness 自己发现(重置周期记忆)

7.2 方法论知识层

  • 自动 agent 设计(ADAS)范式:代码空间搜索、归档机制、接受准则——RoboArchitect 的优化循环直接建立其上
  • 泛化评测设计:unseen scenes/unseen tasks/统一 harness 三协议的构造(交替发牌场景配置、按共享技能切分任务)——防止"harness 过拟合训练 episodes"的质疑
  • 过拟合防控:训练/held-out 切分 + 单调接受门槛的组合

7.3 工程知识层

  • 辅助工具集成:检测/分割/pointing/抓取生成各模型的 API 与失效模式(如视觉工具分不清麻将牌面 → 演化出候选列表机制)
  • 轨迹记录基础设施:逐步相机帧/读数/模型调用的完整 log 是诊断的前提
  • 成本控制:5 轮迭代全程 <6 小时编码模型时间、平均 <$150——无演示采集、无权重更新

7.4 知识融合的关键节点

最关键的融合:把"人类工程师如何调试机器人系统"的隐性知识(观察-诊断-修改-验证)显式化为编码模型可执行的循环。这不是任何单一技术,而是把软件工程的 code review 文化、机器人学的 failure analysis 传统、和 ADAS 的搜索框架三者对齐。第二个节点是"记忆不设 schema"的克制——知道在哪里不设计(let it emerge)本身就是深刻的设计判断。

八、论文中可以提取的通用性灵感

灵感一:适配新环境时,先检查外围编排层再动核心参数。 核心思想:系统表现不佳时,修改调用逻辑/信息路由/失败处理的收益可能超过修改核心模型,且保持可解释可回滚。论文证据:冻结权重 + 进化 harness 在 2/3 直接对比中超过微调。推广场景:(1) 数据库慢查询先优化索引与查询计划再改存储引擎;(2) 团队绩效差先改流程与信息流再换人;(3) LLM 应用效果差先优化上下文工程再微调;(4) 城市交通先优化信号配时再修路。

灵感二:让证据而非指令决定组件分工。 核心思想:VLA 与 code-as-policy 的分工不是预先指定而是从 rollout 证据中涌现(策略无用→纯代码;策略强→保留+干预)。论文证据:通用 X-VLA 演化出纯 code-as-policy(0→100% 训练集),包裹专家时正确保持。推广场景:(1) 微服务拆分按实际调用证据而非架构图;(2) 人机协作界面按谁在哪类任务上更准动态分配;(3) 混合云工作负载按实测成本路由;(4) 教学中按学生表现数据决定讲解与自学的比例。

灵感三:经验按可测物理量索引才能跨场景迁移。 核心思想:记忆/经验的组织维度决定了泛化边界——按表面类别(任务名)索引过拟合,按深层可测量索引迁移。论文证据:抓取深度按"物体高度的比例"而非任务名存储,新物体直接命中(92–99% 命中率)。推广场景:(1) 案例库按问题结构特征而非行业归类检索;(2) 医院临床路径按病理机制而非症状索引;(3) code review 经验按缺陷模式而非项目归档;(4) 销售话术按客户决策结构而非行业分类。

灵感四:自动化"专家的调试循环"比自动化"专家的设计"更可行。 核心思想:一次性从零设计很难(HarnessDev 显示落后人工),但"执行→看失败→修→再验"的迭代循环自动化效果好——因为每步都有执行证据锚定。论文证据:one-shot 21.4% vs 迭代 43.3%,差距说明执行证据的价值。推广场景:(1) 自动化运维从根因分析循环入手而非全自主运维;(2) AI 辅助写作先做"修改-反馈"环而非一次性成文;(3) 法规制定用试点-评估-修订循环;(4) 个人学习中的刻意练习(练习-反馈-修正)优于一口气学完。


第三部分:双篇合论

一、两条路线的互补与合流

两篇论文拼出 harness 革命的完整图景:

维度OpenRUA(uni-robot-agent)RoboArchitect
harness 的角色释放通用 VLM 能力的统一通道围绕冻结 VLA 的可进化编排层
核心命题好 harness 让开放权重追平闭源harness 优化可替代微调
模型角色模型是大脑,harness 是神经与肌肉模型是可选部件,harness 决定何时用它
设计方式人工精心设计(六项原则)编码模型自动演化(≤5 轮迭代)
记忆形态skill 库(可选,去掉仅掉 3.4%)无 schema 涌现记忆(高频命中)
证据形态同模型换 harness 16 倍分差冻结+进化 vs 微调 2/3 反超
局限精度/长程弱;真机用了深度仅仿真;pick-and-place 边界

互补关系清晰:OpenRUA 证明 harness 决定能力释放的下限与上限(弱 harness 埋没强模型),RoboArchitect 证明 harness 设计本身可以被自动化且有微调级收益。一个自然的合流方向:用 uni-robot-agent 式的统一工具接口作为 RoboArchitect 的搜索空间底座——前者定义组件与契约,后者自动搜索最优组合。HexaShell(检索中发现,arXiv 2610.23479)已经展示雏形:optimizer agent 阅读完整执行记录后写/修工具,工具以代码形式沉淀,在 RoboDojo 官方榜达 46.9% SOTA。

二、共同的深层判断

剥开工程细节,两篇论文共享三个可迁移的判断:

  1. 性能余量的分布:模型时代的系统优化,边际收益最大的位置正在从参数空间向接口/编排空间转移。两篇分别用 16 倍分差和 +696% 增益量化了这个余量。
  2. 可解释性作为约束的价值:RoboArchitect 的每次修订可检查、OpenRUA 的每次工具反馈可诊断——可解释不只是安全需求,更是持续优化的前提(诊断不了就改进不了)。
  3. 自然实验方法论:OpenRUA 用模型代际序列做能力归因,RoboArchitect 用训练-源距离分级做适配难度标定——都在不训练新模型的前提下回答了深层问题。

三、开放问题

  • harness 优化的饱和点:5 轮之后还有多少收益?迭代预算与过拟合风险的边界在哪?
  • 真机验证缺口:RoboArchitect 全仿真;OpenRUA 真机实验依赖深度流,与自身无特权原则存在张力
  • 两个范式的理论统一:VLA 与 code-as-policy 被实证统一为谱系,但何时该用哪端的判据仍是经验性的
  • 安全维度:harness 越强大,模型误用/失控的物理后果越大(检索中注意到 RoboHarm 基准显示前沿模型在危险指令面前几乎无拒绝能力)——harness 革命需要配套的安全层设计
  • 开放权重的真实边界:Embodied Agent Arena 显示开放权重在多域执行任务上与闭源差距仍大,OpenRUA 的成功是否可泛化到 RoboDojo/桌面操控之外,待验证

附录:关键术语速查

  • Harness(执行挽具):围绕模型的执行运行时——决定观测构造、工具暴露、动作执行、反馈处理的外围代码层
  • RUA(Robot-Use Agent):用通用多模态模型直接操控机器人的 agent,零样本、不依赖机器人训练数据
  • VLA(Vision-Language-Action):在机器人演示数据上端到端训练的策略模型,输出连续动作
  • 特权输入(Privileged Inputs):只在仿真中可得的信息:真值深度、CAD 资产、任务验证器反馈
  • Unseen scenes / Unseen tasks:harness 优化未见过的场景布局 / 未见过的任务(共享底层技能)
  • Code-as-policy:以可执行程序(而非神经网络)作为机器人策略的范式
  • 涌现记忆:harness 优化过程自主决定的记忆结构(无预定义 schema),按实测物理量索引