OneSearch-VL × VAMR × Agentic-TTT:多模态智能体的证据、共享与自我进化三问

2026 年的多模态智能体研究,正在从「一个模型答一个问题」转向一个更接近真实部署的形态:模型面对的是一条流——一条视频带着十几个问题、一段查询流带着各色任务、一次部署里源源不断的新请求。本精读的三篇论文恰好从三个互补的角度回应这个母题:

论文一:OneSearch-VL: Unified Multimodal Deep Research Agent for Image and Video (arXiv 2610.12419) 代码:GitHub / HuggingFace 发表时间:2026 年 10 月 机构:北京航空航天大学 BUAA(第一单位,Si Liu 组通讯)+ 港中文 CUHK + 南洋理工 NTU + 清华 THU + 合肥工业大学 HFUT,纯高校五校联合,无企业参与;Manyuan Zhang 为项目负责人。覆盖数据引擎、模型训练、基准评测的系统性工作。 领域标签:多模态深度研究(Multimodal Deep Research)、智能体、cs.CL/cs.CV

论文二:VAMR: Multi-Question Agentic Reasoning for Efficient Long-Form Video Understanding (arXiv 2610.11171) 发表时间:2026 年 10 月(Preprint, Under review) 机构:中国科学技术大学 USTC(第一单位,Zhibo Chen 通讯)+ 腾讯 Tencent。高校学生企业实习合作的典型:一作 Runquan Gui 为科大博士生,工作在其腾讯实习期间完成——腾讯提供研究场景与工程资源,科大提供学术指导。 领域标签:长视频理解、视频智能体、cs.CV/cs.CL

论文三:Agentic-TTT: Training Test-time Policy for Test-time Training (arXiv 2610.12002) 发表时间:2026 年 10 月(cs.LG) 机构:新加坡国立大学 NUS AI Institute(Jiahao Lu、Mohan Kankanhalli 两位作者),单一高校小团队,作者仅两人。 领域标签:测试时训练 TTT、自我改进、cs.LG

三篇的互补关系可以一句话锚定:OneSearch-VL 解决「证据从哪里来、怎么被验证」(证据结构之问),VAMR 解决「多个问题如何共享一次探索」(共享状态之问),Agentic-TTT 解决「模型何时以及如何为自己训练新能力」(自我进化之问)。第一篇是数据与监督的基础设施,第二篇是推理时调度的重构,第三篇则把「学习」这件事本身交还给模型的部署时决策——三篇合起来,恰好是「智能体面对查询流」这一新范式的完整纵切面。

一、论文背景:从「是什么」讲起

多模态深度研究(Multimodal Deep Research)。普通的视觉问答(VQA)是「看图选答案」,而深度研究让模型像研究员一样工作:主动定位视觉线索(图中那辆车的车牌、视频第 14 秒出现的建筑)、调用外部检索(图搜、网页阅读)、再把证据组合成有出处的答案。它需要的不只是「看得懂」,还有「会查、会串」——例如「图中蓝色跑车制造商与刹车卡钳制造商的成立年份相差多少年」需要四次工具调用:裁剪车尾→图搜识别 Ford→裁剪卡钳→图搜识别 Brembo,再查两家公司的成立年份做减法。OpenSearch-VL(本文的直接前作)、WebWatcher、MMSearch-R1 等工作已证明这条路线可行,但它们都只针对单一输入类型——单图、或视频,没有一个策略同时学会三类输入的研究行为。这就是 OneSearch-VL 的出发点。

长视频多问题理解。一小时的视频(如 LVBench 平均 68.4 分钟/条)配 15 个问题是常态:内容审核要同时检测暴力、有害言论与敏感物体,自动驾驶要同时评估多个风险维度。但现有视频智能体(DVD、VideoARM、VideoHV-Agent)都是单问题循环:每个问题独立重启视频探索、独立构建记忆,n 个问题就把同一视频看 n 遍。一个为问题 A 检查过的片段可能恰好包含问题 B 的证据,但独立循环下这份观察无法复用——这是 VAMR 想填的效率与协同缺口。

测试时训练(TTT)。常规 LLM 部署后参数冻结,部署经验只改变上下文而不改变参数。TTT 把「用测试输入更新模型权重」搬进部署时:TTRL 用多数投票伪标签做强化学习、SEAL 从自生成编辑中蒸馏适配器、TTT-FS 把少样本示例转成适配器。这些方法在预设场景战绩辉煌(AlphaProof 拿 IMO 银牌),但有个未被触碰的前提:部署者已经知道要学什么能力、用什么方法学。开放世界里查询异构且不可预知,用错 TTT 方法轻则浪费算力、重则伤害模型——AlphaProof 的银牌方法套在医学问答上可能负增益。参数级自我改进因此需要「代理权」(agency):模型得自己决定何时值得训练、选哪种算法、以及已有技能能否复用。这是 Agentic-TTT 的问题意识,其思想源头可追溯到 1945 年冯·诺依曼的存储程序架构与图灵「让机器修改自身指令以从经验中学习」的论断。

共同的背景张力。三篇论文共享同一个时代背景:模型能力增长从「预训练一次定终身」转向「部署中持续演化」,而演化的对象各不相同——OneSearch-VL 演化的是证据组织方式(训练时的数据基础设施),VAMR 演化的是推理组织方式(一次探索服务多个问题),Agentic-TTT 演化的是参数本身(部署时学新技能)。

二、论文定位和关联工作

OneSearch-VL:多模态研究的「结构化证据」谱系

相关工作核心思想与本文的关键区别
OpenSearch-VL(2026,直接前作)单图深度研究的开源配方,答案+查询质量奖励只覆盖单图;本文扩展至多图+视频并引入 VGEG 与 EVGR
WebWatcher / MMSearch-R1 / DeepMMSearch-R1多模态主动搜索智能体,多轮工具调用单图或单一输入类型;证据依赖不做显式结构保留
Video-DeepResearch / VideoSearcher / SearchEyes视频深度研究:时序定位+视觉检查+开放网页检索实体/关键帧只作检索种子,不保留端到端出处链;本文 VGEG 显式保留锚点→实体→事实→操作的完整依赖
SearchEyes / STAMP / 引文感知 rubric 奖励中间实体锚点、出处引导的信用分配结构不联合保留视觉锚定与答案组合依赖;本文用同一 VGEG 同时服务数据构造、过程监督、操作级评测
LLaVA-ST / OneThinker跨图像视频统一视觉理解统一在感知任务层;本文统一在深度研究层(单一策略 + 外部检索 + 事实组合)

定位结论:OneSearch-VL 是首个用单一证据结构(VGEG)同时驱动数据构造、RL 过程监督与操作级评测的统一多模态深度研究框架,其增量不在某个单点算法,而在「一套结构贯穿全流程」的系统性设计。

VAMR:从「单问题智能体」到「多问题共享轨迹」

相关工作核心思想与 VAMR 的关键区别
DVD(Deep Video Discovery)预建视频数据库上全局浏览+语义片段搜索+帧级检查仍围绕单个查询组织在线策略状态;检索与停止以单问题为中心
VideoARM(最强基线)在线分层记忆 + 按需粗到细感知工具单问题循环,n 问 n 次探索;VAMR 一条共享轨迹解决全部问题
UniVA把多个相互依赖的问题打包成一个复合目标,Plan-and-Act 一次推理全答问题被合并成单一目标,失去独立决策地位;VAMR 保持问题为独立决策目标、可异步终止
MR. Video先构造与问题无关的视频表示,再分别作答表示构建与问题无关;VAMR 让未解决问题联合指导在线证据获取
多问题学习(Lei 2020 等)/ ArCHer / GiGPO利用问题间语义关系辅助单次预测;分层多轮 RL前者作辅助信息而非决策结构;后者的信用分配针对单任务结果,不处理多问题异步终止

定位结论:VAMR 是首个在共享轨迹内协调多问题推理的视频智能体,其 QHPO 是首个针对「多问题不同轮终止」这一异步信用分配结构设计的策略优化算法。

Agentic-TTT:TTT 从「固定程序」到「可学习的决策」

相关工作核心思想与 Agentic-TTT 的关键区别
TTRL / SEAL / TTT-FS / TLM / PoT(五种被治理的 TTT 方法)各自的测试时适应信号:多数投票 RL、自编辑蒸馏、少样本重构、困惑度、执行反馈搜索每种方法各自有效域不同;本文不提出新 TTT,而是学习治理它们的策略
TTT-Discover / AlphaProof每问题迭代搜索与适应,超人类数学/科学问题假设部署者已指定能力与流程;开世界设定下该假设失效
选择性测试时适应(SoTTA 等,CV 域)固定域内过滤无信息样本异构 LLM 工作负载需要更高层自主权(是否 TTT/哪种/复用),非样本过滤
LoRA 库 / 适配器路由(LoraHub、Text-to-LoRA 等)适配器模块化复用与组合适配器池在部署前建立;本文技能库在部署中由策略自己扩张
自我改进智能体(Voyager、SkillWeaver、Reflexion)经验蒸馏为文本教训/技能库复用改进驻留在模型外围(上下文/控制流);本文改进的是参数本身(LoRA 技能)
SAGE 等在线 LoRA 构建检测到推理失败时触发 LoRA 构建模块创建由预定义规则触发;本文由学习到的策略决策

定位结论:Agentic-TTT 把 TTT 从固定适应程序重构为可学习的代理决策问题,是「学习如何自我改进」方向的代表性一步——它不与五种 TTT 方法竞争,而是学会调度它们。

三、问题定义

三篇论文面对的具体场景不同,但抽象后共享同一个深层结构:把「一次性任务」重构为「流上的序贯决策」。

OneSearch-VL 的形式化。给定视觉输入 X(单图 I、图像集合 {I₁…I_K} 或视频 V)与问题 q,学习统一策略 π_θ 在每步 t 基于交互历史 h_t 生成动作 a_t =(推理 z_t,工具调用或最终回答 c_t),工具产生观察 o_t(裁剪区域、视频帧、识别文本、检索信息)。三类输入共享同一「动作-观察」协议,仅输入类型决定可用工具集:图像类开放视觉增强工具(Crop/OCR/透视矫正/超分/锐化)+ 检索工具(图搜/文搜),视频额外开放时序工具(选时间跨度/选帧)。问题的本质是:如何让「视觉定位→外部检索→事实组合」这条共享工作流被一个策略统一学习,且每一步的证据依赖可验证。

VAMR 的形式化。设视频 V 与多选题集 Q = {q₁…qₙ}。独立循环下每个问题有自己的私有记忆 m_i 与策略,一条视频要跑 n 条轨迹。VAMR 的关键重构是共享循环:维护单一策略与单一记忆 M_t,暴露活跃问题窗口 B_t ⊆ Q(其余进后备队列),每轮输出联合动作 a_t ⊆ {answer(ŷ_i), visual-inspector(V_[l,r]), ASR(V_[l,r])}——一轮可以同时提交多个答案和发起多个工具调用。问题在证据充分时异步离开窗口、由后备补充,循环持续到全部问题解决。优化目标仍是平均准确率,但决策结构从「问题→轨迹」变成「问题集→轨迹」。精妙之处在于:这不是简单的批处理规则,而是把跨问题协调内化为策略轨迹的一部分——策略必须学会在联合动作空间中权衡「哪些问题现在答、为哪些问题取证据」。

Agentic-TTT 的形式化。给定测试查询流 x₁…x_T,环境维护适应池 P_t(存同类查询及附带材料)与技能库 L_t(LoRA 适配器 + 自然语言能力描述),构成跨查询状态 S_t = (L_t, P_t)。策略在每轮从四个原语动作中选择:ASSIGN(把当前查询归档进池)、ADAPT(对池跑某个 TTT 方法产出技能)、LOAD(挂载已有技能)、GENERATE(生成最终答案并终止)。回报定义为基模型相对回报:R(τ_t) = [U(τ_t) − U(τ_GENERATE)] − λ[C(τ_t) − C(τ_GENERATE)]——一条轨迹只有当效用提升超过额外计算成本时才是正回报。目标是最大化查询流上的累计回报。这个定义的精妙之处在于基线锚定:不问「答案好不好」,而问「比冻结基模型直接答好多少、值不值这个算力」。

三篇的抽象共性可以用一张表呈现:

维度OneSearch-VLVAMRAgentic-TTT
流的单位研究任务(三类视觉输入)同一视频的问题集部署查询流
决策粒度工具调用联合动作(多答案+多工具)四原语动作
共享结构VGEG 证据依赖图共享故事层记忆LoRA 技能库
异步性输入类型间差异问题异步终止技能构建/复用时序

四、问题解法

OneSearch-VL:VGEG 中心的数据引擎与双维奖励

类比:VGEG 之于多模态研究,就像菜谱之于烹饪——不只记录食材(事实)和成品(答案),还记录每样食材从哪个市场来(视觉锚点→实体)、经哪几道工序组合(操作依赖)。有了菜谱,学徒(模型)的每一步都能对着检查。

数据引擎五阶段(从 250 万原始视频到训练数据):

  1. 视觉源筛选:从 2.5M YouTube 视频记录起步,经上传日期过滤(≥2023.1.1,剩 1.3M)→元数据粗筛(实体/事件线索评分,剩 378k)→类目平衡与排除(保留 12 类、排除音乐/教育等低可搜索实体类目,剩 128k)→GPT-4.1 片段 LLM 筛(剩 72k)→时长平衡(最终 70k)。
  2. 密集视觉锚点发现:2 FPS 采样、10 帧一剪辑,Seed 2.0 Pro 生成剪辑/关键帧描述;Qwen3-VL-Embedding-8B 做跨剪辑帧去重(图像相似度 ≥0.9 或文本相似度 ≥0.8 即删);相邻语义相关剪辑聚合成事件;Qwen3-VL-30B-A3B 定位可搜索物体(记录名称+归一化边界框)。产出「视频→事件→关键帧→定位物体」的密集描述树。
  3. Web 证据图构建:物体分组后经图搜或 OCR 路由连接外部知识,候选身份经视觉上下文与检索源双重验证,抽取带 URL 与证据引文的事实五元组 f=(u,r,z,p,ξ),可迭代扩展(后继置信度 ≥0.5 才继续)。产出输入级证据图 G_X。
  4. VGEG 任务构造:任务条件投影 Φ_i 从 G_X 选取所需锚点与事实,增强显式答案生成操作,得 Γ_i = (A_i, F_i, O_i, R_i)——锚点、来源支持事实、操作、依赖关系四元组。经 QA 验证器(规则+模型重答核验)、视觉实体模糊重写(把「Golden Retriever」改写成「穿格子衬衫男孩抱的狗」防泄漏)、质量过滤(含纯文本探针:不看图能答上的题目淘汰)。
  5. 专家轨迹合成:Seed 2.0 Pro 在真实工具环境中解题,GPT-4o 判答案正确性+过程质量(至少一次有效工具调用、逻辑一致、无无效重复),双过筛的轨迹进入 SFT-110K(36k 单图+37k 多图+35k 视频)。RL 数据 RL-10K(3.7k/2.8k/3.6k)用 8 次独立 rollout 保留 0<正确数<8 的任务(全对太难、全错无梯度信号)。

训练与 EVGR 奖励。SFT 采用策略 token 掩码(只对模型生成的推理/工具命令/回答算损失,工具观察仅作条件上下文),64 张 H800 训 4 天。工具套件按输入类型分层开放:

工具集工具功能适用输入
T_visCrop / OCR / PerspectiveCorrect / SuperResolution / Sharpen裁剪、读文字、透视矫正、超分、锐化单图/多图/视频
T_retImageSearch / TextSearch反向图搜识别实体、网页检索阅读摘要单图/多图/视频
T_tempSelectTimespan / SelectFrame选连续时间区间、按索引抽帧仅视频

所有工具共享统一 dispatcher 与观察格式,裁剪/增强结果注册为新资源句柄可被后续调用链式复用(选帧→裁剪→OCR→图搜)。这一统一接口让专家轨迹合成、RL 在线 rollout 与推理共享同一环境——是「一套结构贯穿全流程」在工程侧的落地。

RL 用 GRPO,奖励 = 格式门控 ×(0.6·答案正确 + 0.2·查询质量 + 0.2·EVGR)。EVGR(证据感知视觉接地评分奖励) 是核心创新:从 VGEG 注释导出结构化 rubric(答案核心实体、必需事实跳数、支持来源与片段、帧/区域标注),两个独立判别调用分别评估——证据可追溯性 r_trace(工具观察是否建立了答案核心实体与事实跳、推理是否跟随观察而无未支持替换)与视觉接地 r_ground(正确的可见实体/区域/帧是否被识别并驱动后续检索),各自 0-1 打分(1.00/0.75/0.50/0.25/0.00 五档锚定标准)。关键设计:rubric 显式不奖励冗长、流畅但无支持的推理、无效工具调用或仅碰巧答对。

VAMR:共享循环、QA-inspector 与 QHPO

类比:独立循环像给每个问题各派一名调查员各自看一遍监控录像;VAMR 像一个调查组同时带着所有案卷看录像——看到任何片段,相关案卷立刻记录线索,办结的案卷移走、新案卷补进来,组里始终保留一份共享的「录像故事」。

三个架构组件:

  1. 共享循环与活跃窗口:窗口容量 5 题,回合预算 max(12, 4|Q|),每回合至多 6 次工具调用。联合动作可含多个答案提交与多个工具调用;答案被接受后该题离开窗口、记忆整合、后备队列按序补充——新问题继承累积的共享故事但带着自己的空白线索记忆进场。
  2. QA-inspector(问题条件化感知):普通视觉检查器输出通用片段描述;QA-inspector 接收策略选定的目标问题集 {(q_i, A_i)},一次调用返回共享摘要 g_t 与每题专属证据 {e_i}。设计双重价值:条件化使检索从「泛泛描述」转向「能区分候选答案的细粒度线索」;一次调用服务多题实现跨问题复用。细粒度版本可重访已定位的 ≤30 秒区间处理高分辨率帧。
  3. 分层多问题记忆 M_t = (G_t, {E_i}, T_t):共享故事层 G_t 是时间锚定的可复用视频叙述;问题线索层为每个活跃问题保留独立证据记忆;观察缓冲 T_t 暂存最新输出待整合。答案被接受时:可复用内容并入 G_t、问题专属线索路由到对应 E_i、已完成问题的线索记忆丢弃、缓冲清空。

两阶段训练。SFT 用两阶段构造(解决特权信息泄漏):第一阶段把正确答案与标注证据区间喂给教师(Qwen3-VL-32B)选定联合动作(哪些答案可提交、为哪些未解题检索哪个窗口),第二阶段移除特权信息、让教师仅从公开状态为已定动作生成推理轨迹——最终样本 (B_t, M_t)→(z*, a*) 中特权信息只引导动作选择而不进入策略输入。QHPO(问题视界策略优化)解决共享轨迹的信用分配难题:

  • 问题级 critic:共享状态下不同问题成功概率不同,单一轮级价值无法区分学习信号。V_ϕ(B_t, M_t, q_i) ∈ (0,1) 为每个活跃问题独立估值,交叉熵训练。
  • 逐问题 GAE:对每个问题在其活跃轮次上用其 critic 值与终端奖励计算优势 A_{t,i}。
  • 回合对齐:识别联合动作直接服务某问题的轮次(针对性视觉调用或其答案提交),只在这些对齐轮次保留该问题的优势——防止问题 A 的结果去更新只为问题 B 服务的轮次。轮级优势 A_t = 对齐问题优势的平均。
  • PPO 更新:标准裁剪 PPO 作用于轮级动作序列。Actor 是 rank-64 LoRA(scale 128,lr 1e-6),critic 挂在策略特征上(sigmoid 头,lr 1e-4),KL 系数 0.02 对冻结 SFT 策略。

Agentic-TTT:把 TTT 变成动作、把技能库变成环境

类比:五种 TTT 方法像药房里五种药,各治不同的病;Agentic-TTT 学的是一位坐诊医生——看病历(查询+技能库快照)决定「不用药直接处理(GENERATE)」「开已有的药(LOAD)」还是「配制新药(ASSIGN+ADAPT)」,且诊费(算力)计入处方决策。

执行环境。技能库中每个技能 = 样本池 + 至多一个 LoRA 适配器;池名由查询类型前缀+描述符构成(如 mcq-medical-4opt)。批量方法有样本下限(TTRL 首次适应需 16 样本),低于下限时策略只能缓冲样本暂用基模型作答。增量再适应在现有适配器上热启动,用新样本+至多 8 条回放样本训练后替换。每查询至多 6 个策略轮与 1 次成功适应;检索用语义嵌入+BM25 混合排序呈现 top-8 相关池。关键分离:策略上下文与答案生成上下文完全隔离——生成最终答案时禁用策略 LoRA,答案上下文只含原始查询(排除策略推理与观察),挂载的技能 LoRA 才是影响答案的唯一参数。

两阶段训练:

  1. 引导蒸馏策略学习(解冷启动):启发式规则提议轮级金动作,经实测 TTT 评估确认有益后保留;采集时初始策略在提示引导下自己采样推理与动作,仅当动作与金动作一致才保留——推理是 on-policy 自产的而非强加教师风格。损失按角色加权:ω_z=1(推理 token)、ω_a=4(动作 token),因为动作块格式生僻且稀疏,均匀平均会被长推理稀释信号。
  2. 结果驱动 RL:流式环境中每个 epoch 重置技能库与池、按先序约束重排查询;到达训练事件时快照状态、独立采样 G=8 条完整轨迹(提供同状态局部反事实),评估优化后回滚,训练流本身按标注金动作推进(部署时策略自主推进)。奖励 = ΔU − λ·ΔC − λ_inv·P_inv:效用增量相对直接作答、计算成本增量(按方法归一化 FLOPs)、无效动作分级惩罚(每次拒绝 +0.5、封顶 2.0、λ_inv=0.15——为无效动作提供稠密信号而不淹没效用信号)。用 Dr.GRPO 的组均值中心优势(不做标准差归一化以保留回报差异量级)+ KL 正则。TTT 适应昂贵,相同配置缓存三次实测均值复用。单张 H200 约 11 GPU 时完成一次训练。

五、评估指标与实验证据

OneSearch-VL:操作级分解的评测体系

评测配置:基模型 Qwen3-VL-8B-Instruct;7 个单图基准(SimpleVQA/VDR/MMSearch/LiveVQA/BrowseComp-VL/FVQA/InfoSeek)+ 自建 OneSearch-MI-Bench(301 题)/OneSearch-Video-Bench(307 题)+ VideoDR;GPT-4o 二元判分。自建基准按 6 类研究操作组织题目(题目归类依据其 VGEG 的最终答案生成操作而非视觉内容):单锚点查找 53 题、多跳检索 95 题、知识条件计数 118 题、多锚点连接 110 题、多锚点算术 106 题、多锚点比较 126 题——五种组合类占 91.3%,多图题均含 2-8 张图(均值 3.05)。结构难度分 d = 10w(s)+h+0.1|F|(操作权重×推理跳数×事实数)划分易/中/难。

主结果:

对比基准OneSearch-VL-8B对手差距
vs 同规模基座MI-Bench55.8Qwen3-VL-8B Agent 35.6+20.2
vs 同规模基座Video-Bench35.5Qwen3-VL-8B Agent 17.9+17.6
vs 同规模基座VideoDR57.0Qwen3-VL-8B Agent 30.0+27.0
vs 直接前作单图 7 基准均分58.3OpenSearch-VL-8B 56.6+1.7(7 项全部领先)
vs 闭源旗舰单图均分58.3GPT-5(RAG)53.6 / Gemini-2.5-Pro 直接 46.0开源 8B 反超

操作级分解显示增益集中在组合操作:多图任务的知识条件计数/多锚点算术/比较分别 +29.8/+26.3/+22.5 点,视频任务的多跳检索/算术/连接 +25.5/+20.0/+19.2 点——这些正是数据引擎 VGEG 覆盖的组合操作类型,说明增益来源与训练数据结构对齐。

消融(六基准平均):SFT 数据混合——任何单类型训练 51.7-55.1,三类联合 55.8 且三项单图基准最佳,证明三类轨迹互补而非互相挤占;RL 奖励——仅准确率 56.3→+查询质量 57.3→+Trace 59.0 / +Ground 59.3→全奖励 61.1(EVGR 双维各贡献独立增益,联合再加 1.8-2.1 点)。奖励消融明细:

奖励配置R_accR_queryr_tracer_ground六基准均分
SFT 起点––––55.8
RL(Acc.)✓×××56.3
RL(Acc.+Query)✓✓××57.3
RL(Acc.+Query+Trace)✓✓✓×59.0
RL(Acc.+Query+Ground)✓✓×✓59.3
RL(全奖励)✓✓✓✓61.1

值得注意的是单加 Ground(59.3)略优于单加 Trace(59.0)但两者不可互相替代——联合才到 61.1,说明「视觉侧用对了图」与「文本侧查证了事实」是两个独立且互补的监督通道。

VAMR:准确率与效率的双指标体系

评测配置:训练仅用 CG-Bench(SFT 5,775 / QHPO 6,001 题例,按视频切分);评测 LVBench(103 视频、1,549 题、均 68.4 分钟、15.04 题/视频——最高密度最长视频)/ Video-Holmes(270 视频、2.8 分钟均长、6.80 题/视频)/ LongVideoBench(753 视频、7.9 分钟、1.78 题/视频——低密度)。指标三元组:准确率 + Rounds/Q(每问题有效推理轮数,联合轮可服务多题故可低于 1)+ Frames/Q(感知模型处理帧数,重复处理重复计)。统一评测协议下复现所有基线,3 种子报均值±标准差。

主结果:

方法LVBench AccRounds/QFrames/QLongVideoBench Acc
VideoARM(最强基线)57.8±0.56.4220.265.9±0.4
独立循环(同预算 SFT+PPO)56.4±0.44.1224.065.1±0.3
VAMR62.1±0.30.984.966.5±0.4

LVBench 上 VAMR 超 VideoARM 4.3 点的同时轮数降 85.9%、帧数降 61.4%;超同预算独立循环对照 5.7 点(轮数 4.1→0.9)——准确率与效率同向提升,直接证明共享循环优于逐题独立求解。三个基准全部拿下最高准确率+最少轮数。原生模型配置下(OpenAI o3+GPT-4.1)VAMR 免训版 LVBench 80.4,仍高于 VideoARM 原生 79.7。

消融:架构(Qwen3.5-9B 统一对照)——独立循环 45.2/4.8 轮 → 裸共享循环 49.6/1.6 轮(共享拓扑贡献主要效率增益)→ +QA-inspector 53.9(架构最大单项)→ +分层记忆 52.3 → 完整架构 56.8/1.3 轮;训练——骨干 56.8 → SFT 57.9/0.8 轮 → PPO 58.7 → QHPO 无对齐 60.0 → QHPO 完整 62.1(超 PPO 3.4 点,问题级价值+2.1 点来自回合对齐)。

受控分析:问题密度扩展(固定 768 题只改每循环题数)——1 题 58.1/219.2 帧 → 16 题 62.8/87.7 帧,密度越高准确率越高帧数越少;证据重叠四分位——最低重叠组(问答证据仅 1.4% 对重叠)VAMR 仍 +7.0 点、帧数降 63.4%,排除「增益靠证据重叠」的替代解释,支持「渐进细化共享理解」机制。

Agentic-TTT:效用、算力权衡与泛化三线证据

评测配置:8 域 11 基准族(MATH-500/AMC/AIME、LiveCodeBench v5/v6/MBPP、BBH、ARC、LSAT-AR、MedMCQA、SQuAD、InfiniteBench-LongBook);训练 229 查询(引导蒸馏 2,072 轮级样本/RL 187 输入流)、测试 176 题固定顺序流从空技能库起步;二元任务自动验证器均分效用;3 次独立训练报均值±标准差。基线:直接作答、提示版(同 prompt 无训练)、语义路由(嵌入检索选方法)、三种固定方法(Always-TLM/SEAL/TTRL)、SFT-only、Oracle(标注金动作)。

主结果(Qwen2.5-7B):

方法总效用说明
Direct Answer0.256冻结基模型
Prompted0.271±0.003提示不够
Semantic Router0.347±0.020嵌入路由不够
Always-TLM0.335 / Always-SEAL 0.248 / Always-TTRL 0.375固定方法互有胜负:SEAL 在 PassageQA +0.427 却在 Math −0.368
SFT-only0.375±0.010引导蒸馏
SFT+RL(完整)0.510±0.0128 域全部正增益,近乎翻倍
Oracle0.650±0.061学习策略在 Grid Puzzles/Logic Games 反超 Oracle

帮助/伤害比约 20:1(141 题翻正 vs 7 题翻错);技能复用上 100 题用已建技能(61 帮 1 伤),构建成本被摊销。

算力权衡:计算惩罚 λ_comp 从 0→0.4,直接作答率 11.8%→39.8% 单调上升、归一化适应算力 1375.5→886.9(降 35.5%);适度惩罚(0.1/0.2)算力省约 30% 且效用反超 λ=0——无成本约束时策略会过度使用 TTT。方法级再分配:TTRL 调用 21.3→11.7 近乎减半(高成本低增益)、TLM 略增——收益感知的算力分配而非均匀压缩。

泛化:G1(Code/General/Logic 训练)与 G2(Math/Grid/Medical 训练)在彼此未见域上增益与见过域相当,G1 在完全未见的 Grid Puzzles 上增益最大;G3(六域并训)在全员未见的 Passage/LongBook 上表现最佳——学到了 TTT 决策的可迁移原则而非源特定动作模式。跨模型家族(Qwen-7B +0.254 / Llama-8B +0.136 / GLM-9B +0.142)与规模(Qwen-14B 0.432→0.621,+0.189)均保持增益,但 Llama/GLM 在部分域出现负增益,暴露「策略未总能学会在该放弃时放弃」的校准缺口。

诚实声明(原文 B.2 节):基准刻意富集了筛查中显现 TTT 益处的查询(约 65%,对照完整 MATH-500 仅 7% 高增益),报告的是这一策展设定下的上限刻画而非源分布期望增益——这一限制被作者显式标注。

六、效果优势的根源解释

根源机制与证据链

OneSearch-VL 的因果链:

  1. 方法差异:前作结构(感知-知识链、事实 rubric、证据图)不联合保留「定位视觉锚点→实体关系→来源支持事实→答案组合操作」的端到端依赖;视频管线把实体/关键帧仅当检索种子。
  2. 机制变化:VGEG 把这条依赖链做成显式共享结构后,(a) 任务构造时可以程序化验证「事实必需且被来源支持、答案可从证据恢复」(QA 验证器重答核验);(b) RL 时 rubric 从同一结构导出,奖励直接评估「证据是否被建立并使用」而非仅终端答案对错;(c) 评测时按操作归类可定位失败模式。
  3. 指标对应:EVGR 消融(56.3→61.1,Trace/Ground 各自独立贡献)支持 (b);操作级增益集中在与数据结构对齐的组合操作(知识条件计数 +29.8 等)支持 (a);联合训练 55.8>单类型 51.7-55.1 支持统一动作空间下三类轨迹的表征互补(论文实验支持)。
  4. 反事实:去掉 VGEG 衍生的双维奖励仅留答案+查询奖励,平均掉 3.8 点——过程监督的必要性得到消融级证明。

需标注:8B 模型超 GPT-5(RAG)等闭源旗舰的对比受工具环境与判分协议影响,论文未提供闭源模型在同等工具接入下的完全对齐复现,该结论应视为「开源配方在统一协议下的竞争力」而非绝对优势(阅读者推断)。

VAMR 的因果链:

  1. 方法差异:独立循环下每个问题私有记忆、私有探索,观察不可复用、问题间无联合指导。
  2. 机制变化:共享循环使 (a) 每次工具调用的观察进入持久共享状态(一次检索多题受益——Frames/Q 84.9 vs 224.0 的直接来源);(b) 联合动作允许「先答有把握的、继续为无把握的取证据」的轮内调度;(c) 分层记忆把可复用叙事与问题专属线索分离,新问题继承故事而不继承无关线索。
  3. 指标对应:架构消融中裸共享循环(无任何专用组件)已把轮数从 4.8 压到 1.6、帧数从 210.7 压到 98.7 且准确率 +4.4——共享拓扑本身是效率增益的主因(论文实验支持);密度扩展实验(1→16 题,准确率 58.1→62.8)显示准确率也随协调规模上升,机制假设是「渐进细化的共享理解让后续问题受益于更完整的视频表征」(论文分析支持,深层机制为合理推测)。
  4. 替代解释排除:证据重叠分析是本文最漂亮的实验设计——如果增益只是「不同题恰好看同一段」,最低重叠四分位(1.4%)应无增益;实测 +7.0 点排除了这一解释,支持共享理解机制(论文实验支持)。QHPO 增益(超 PPO 3.4 点)来自问题级估值区分了不同问题的成功概率+回合对齐防止跨问题信用污染,两者各有消融支持(+1.3 与 +2.1 点)。

Agentic-TTT 的因果链:

  1. 方法差异:固定 TTT 方法各自假设自己的适用域;提示/嵌入路由只有浅层相似度信号,无结果反馈。
  2. 机制变化:(a) 基模型相对回报把「值不值」内化为每次决策的目标(Always-SEAL 在 Math −0.368 的失败模式被策略规避——Math 域策略增益 +0.175);(b) RL 在同一状态快照上采样 8 条轨迹提供局部反事实,直接学到「此情此景哪种动作有正回报」;(c) 技能库作为演化环境使早期构建成本被后续复用摊销(100 次复用 61 帮 1 伤)。
  3. 指标对应:SFT(0.375)→RL(0.510) 的 13.5 点增量支持 (b)——蒸馏只给行为先验,结果反馈才校准决策;λ_comp 实验中适度惩罚反超无惩罚支持 (a)——无成本项时策略过度适应,说明「值不值」的判断必须显式进入目标而非隐式期望。
  4. 边界条件(论文自己标注):基准富集有益查询(65% vs 源分布 7%),有益适应稀少的分布上增益会收窄;Llama/GLM 部分域负增益说明策略的放弃决策仍欠校准;RL 阶段跨查询信用分配未解决(训练流按金动作推进,与自主部署存在曝光偏差)。

相关工作检索与对照

围绕三条关键机制做外部检索(anysearch,2026-10-11):

研究相似尝试相关结论与本文的差异与边界对根源解释的影响
Search-R1(arXiv 2503.09516,被论文一/三共同引用)RL 训练 LLM 交替推理与搜索,结果奖励搜索行为可被结果奖励塑造单模态文本;无证据结构监督支持「工具使用可学」,补充:结构化过程奖励额外 +3.8 点是本文增量
ProMM-SearchAgent(arXiv 2604.20486,论文一引用)过程导向奖励训练多模态搜索智能体过程奖励优于纯结果奖励奖励针对搜索决策;EVGR 额外覆盖视觉接地维度结论相近的不同路径:两条独立工作线都发现过程监督优于结果监督,共同支持「证据使用应被显式奖励」
StepSearch(arXiv 2505.15107,论文二引用)步级 PPO 训练搜索智能体细粒度信用分配优于轨迹级单任务轨迹;QHPO 处理多问题异步终止支持信用分配细化方向,QHPO 把细化维度从「步」改为「问题×轮对齐」
Voyager(2023,论文三引用)技能库累积复用的自改进智能体可执行技能的构建-复用大幅提升任务表现技能为代码(上下文级);Agentic-TTT 为参数级 LoRA支持「技能累积摊销成本」机制;参数级版本证据来自本文 100 次复用 61 帮
MR. Video(arXiv 2504.16082,论文二引用)问题无关视频表示 + MapReduce 分解共享表示降低重复处理表示构建与问题无关;VAMR 让问题联合指导获取方法相似结论相异:MR.Video 验证共享表示有效但未利用问题协同,VAMR 的密度实验(协调越多准确率越高)补充了「问题联合指导」的增量证据
TTRL(arXiv 2505.02607 系,论文三治理对象之一)多数投票伪标签测试时 RLTTT 在数学等域大幅提升单方法固定使用;Agentic-TTT 显示其在整体流中高成本低增益(调用减半而效用反升)限定性证据:TTT 单域有效 ≠ 流上该无条件使用,支持「agency 治理」的必要性

在本次检索范围内未发现针对「多问题共享轨迹视频智能体」的同期直接竞争工作(VAMR 自称首个,检索未见反例);「结构化证据图同时驱动数据+奖励+评测」的一体化设计亦未见先例(SearchEyes/STAMP 各覆盖一部分)。

综合判断与未决问题

多项研究共同支持的机制:(1) 过程/结构化监督优于纯结果监督——OneSearch-VL 的 EVGR 消融、ProMM-SearchAgent、StepSearch 三线汇合;(2) 共享持久状态摊销重复计算——VAMR 的帧数下降、Agentic-TTT 的技能复用、MR.Video 的共享表示互证;(3) 结果驱动的 RL 能校准「何时行动」的决策——VAMR 的 QHPO 与 Agentic-TTT 的 RL 阶段各自在自己动作空间验证。

仍属推测的机制:VAMR 中「共享理解本身提升准确率」的深层表征机制(论文只证明了相关性与排除替代解释,密度实验的因果链是合理推测);OneSearch-VL 中三类输入联合训练产生正迁移的表征层机制(论文给了行为级证据 55.8>51.7-55.1,机制未探针)。

优势成立条件与失效条件:VAMR 在极低问题密度(1.78 题/视频)下增益收窄至 1.4 点——多问题协调的前提是问题密度存在;Agentic-TTT 在有益适应稀少的分布上优势可能消失(作者自证源分布仅 7% 高增益)、更强基座的校准更难(Qwen-14B 两个域负增益);OneSearch-VL 依赖外部搜索工具与网页可用性(作者在限制一节自陈),网页漂移影响可复现性。

七、必要知识反推

假设一个没有任何背景的人要复现这三项工作,最少必须掌握什么?

领域知识层:

  • 多模态智能体的工具环境设计(论文一):必须理解 ReAct 式动作-观察循环、资源句柄注册(裁剪结果可再被裁剪/OCR/图搜的链式组合)、以及工具观察作为条件上下文而非监督目标的训练语义——不理解掩码机制就无法正确实现 SFT 损失。三篇共享这一层:VAMR 的 QA-inspector/ASR、Agentic-TTT 的四原语动作都是同一「工具化能力」思想的不同实例。
  • 长视频的结构化表示(论文二):视频→事件→关键帧→物体的层级、时间区间运算(半开区间切片、证据区间交集)、帧采样的计算成本模型——没有这些就无法设计 Frames/Q 这类诚实的效率指标。
  • TTT 方法族谱(论文三):五种方法的适应信号(执行反馈/少样本重构/多数投票/自编辑/困惑度)、各自输入要求与样本下限——不知道每种药治什么病就无从设计调度决策。

方法论知识层:

  • GRPO/PPO 族策略优化:三篇全部落脚于组相对策略优化或其变体(GRPO+fatal-aware、PPO+回合对齐、Dr.GRPO 均值中心)。必须理解组内基线、裁剪目标、KL 正则、以及「策略 token 与环境 token 的损失分离」。
  • 信用分配设计:这是三篇共同的方法论内核——OneSearch-VL 用 rubric 把奖励对齐到证据使用、VAMR 用问题×轮对齐矩阵、Agentic-TTT 用基模型相对回报+无效动作惩罚。理解「奖励应该对齐到什么单元」比会写 PPO 循环更本质。
  • 蒸馏与特权信息处理:VAMR 的两阶段 SFT(特权选动作、公开生成推理)与 Agentic-TTT 的引导蒸馏(提示引导 on-policy 采样)都是「用金信息构造数据但不让它泄漏进输入」的同一技巧——这是冷启动的标准武器。

工程知识层:

  • 大规模异构训练基础设施(论文一):64 张 H800 的全参微调(冻结视觉塔)+ 32 张 H800 的 SGLang 异步 rollout + Megatron-LM 并行——工具环境在数据合成、RL、推理三处共享同一 dispatcher 是可复现性的关键工程决策。
  • 评测协议的统一与诚实记账(论文二/三):VAMR 对所有基线统一「同题同分规则同效率记账」、Agentic-TTT 显式声明基准富集偏差——不理解评测公平性就复现不出可信对比。
  • 成本建模(论文三):把 TTT 适应成本按 FLOPs 归一化到「直接答一次」的单位、λ_comp 折算进训练目标与数据保留决策——没有成本模型就没有权衡实验。

知识融合的关键节点:三篇论文的最小知识集在两个节点上发生化学反应。节点一是**「把 X 变成动作」:OneSearch-VL 把视觉操作变成统一动作空间、VAMR 把多题答案提交变成联合动作、Agentic-TTT 把 TTT 过程本身变成四原语——同一个「能力工具化」洞察在三个粒度上落地。节点二是「把 Y 变成可验证结构」**:VGEG 让证据依赖可程序化检查、分层记忆让证据归属可路由、基模型相对回报让「值不值」可计算——三者都是把模糊的评价标准变成显式数据结构,这正是从「炼丹」走向「工程」的分水岭。

八、论文中可以提取的通用性灵感

灵感一:把评价标准做成显式结构,让同一结构贯穿生成、监督与评测。OneSearch-VL 的 VGEG 同时服务数据构造(可验证的任务生成)、过程监督(EVGR rubric)与评测(操作级归类),一处定义三处受益。论文证据:EVGR 消融 +3.8 点、操作级增益与数据结构对齐(+29.8 点落在知识条件计数上)。推广场景:代码生成的依赖图(同时驱动测试生成、RL 奖励、错误归类);教育领域的能力图谱(同时驱动出题、批改、学情诊断);医疗的诊疗路径图(同时驱动病历生成质控、决策审计、结局归因);司法的证据链结构(同时驱动案情重构、量刑监督、再审审查)。

灵感二:共享持久状态摊销重复计算——协调本身就是增益来源。VAMR 证明把 n 条独立循环合并为一条共享轨迹,效率(帧数 −61.4%)与效果(+4.3 点)可以同向提升,且增益不依赖问题间证据重叠(最低重叠组仍 +7.0 点)。论文证据:密度实验 1→16 题准确率 58.1→62.8。推广场景:CI 系统的测试编排(多 PR 共享构建缓存与依赖分析);数据库的批查询优化(共享扫描计划);多租户 SaaS 的个性化(共享基础画像+租户特异增量);科研团队的知识管理(共享文献综述+课题专属笔记的分层记忆)。

灵感三:异构方法应被治理而非被统一——学习调度比发明万能方法更划算。Agentic-TTT 不提出新 TTT 方法,而是学会调度五种既有方法(+策略还能在部分域反超 Oracle),固定方法互有胜负(SEAL 在 PassageQA +0.427 在 Math −0.368)而学习策略 8 域全正。论文证据:0.256→0.510、20:1 帮害比。推广场景:云平台的弹性调度(学习何时用哪种实例类型而非发明万能调度器);医生的分诊决策(学习转诊哪些病人给哪个专科);投资组合的策略选择(学习何时用动量何时用均值回归);编译器的优化 pass 调度(按程序特征选 pass 组合)。

灵感四:成本项必须进入训练目标,否则学会的能力会被过度使用。Agentic-TTT 发现 λ_comp=0(纯效用)反而不如适度惩罚——策略会过度 TTT 而不挑选。论文证据:λ 0.1/0.2 省约 30% 算力且效用反超 λ=0;TTRL 调用近乎减半而总效用上升。推广场景:智能客服的人工转接阈值(转接成本进决策);机器人的探索-利用权衡(探索能耗计入回报);个人知识管理(记录笔记的时间成本 vs 未来检索收益);API 网关的缓存策略(缓存构建成本进命中率权衡)。

灵感五:特权信息可用于构造数据,但必须从最终输入中剥离。VAMR 两阶段 SFT(金答案+证据区间只用于选动作,生成推理时移除)与 Agentic-TTT 引导蒸馏(提示只在采集时存在)共享同一纪律。论文证据:两篇的 SFT 检查点都成为 RL 的可靠起点(VAMR SFT 57.9、Agentic-TTT SFT 0.375)。推广场景:机器人示教(遥操作数据训练、自主部署时无遥操作);教育中的脚手架教学(辅助逐步撤除);编译器向导优化(离线剖析信息引导、运行时不用剖析);推荐系统的探索(离线模拟器造数据、上线只用策略)。

灵感六:评测应按「操作」而非「内容」组织,才能定位失败模式。OneSearch 基准按研究操作(多跳/计数/算术/比较)归类题目而非按视觉内容或来源类目,使得「模型在哪种能力上弱」可直接读出。论文证据:操作级分解定位增益来源(组合操作 +20~30 点、单锚点查找增益最小)。推广场景:编程能力评测按算法操作而非语言归类;医疗诊断评测按推理模式而非病种归类;安全审计按攻击面操作而非漏洞类型归类;驾驶员考试按驾驶操作而非路况归类。

收束:三篇论文放在一年前可能只是三个互不相干的工程优化,但在「智能体面对查询流」这个新范式下它们显出了共同面目——证据要有结构(VGEG),状态要能共享(分层记忆+共享循环),学习要能自主(TTT agency)。当模型从「答一题」走向「处理一条流」,决定其上限的不再是单次推理的聪明,而是流上的组织学:证据如何被结构化地积累、探索如何被协同地复用、能力如何被有成本意识地扩建。这三篇论文分别给出了这三个方向上当前最完整的答案,也分别暴露了各自的未决问题——VGEG 的自动构建仍依赖强专家模型、共享循环在低密度场景增益收窄、TTT agency 在强基座上校准困难。这些缺口共同指向下一个问题:当查询流本身也会演化时,证据结构、共享状态与技能库的联合演化该如何治理。