论文链接:


一、论文背景:System One 模型是什么,为什么突然爆发

要读懂这四篇论文,先要理解它们共同讨论的对象——System One 模型(也叫决策模型、Jev 类模型)。

从 Kahneman 的双系统说起。《思考,快与慢》把人的思维分成两套:System One 快而省力(看到蛇立刻跳开),System Two 慢而刻意(算一道数学题)。当前的大语言模型 agent 几乎全部工作在 System Two 模式:生成一段思维链推理,再逐 token 生成答案。这对"写文章"合理,但 agent 循环里的大量步骤其实是微型决策——选哪个工具、点哪个按钮、这条文档相不相关、要不要继续搜索。用逐 token 生成来做这些事,就像用长篇论文回答"红灯停还是行"。

**System One 模型的接口定义。**2026 年 TypeSafe AI 提出 Jev 及 System One 模型概念后,这一范式迅速获得 OpenAI(Decisions API)、Liquid AI、Cloudflare、Perplexity 等厂商跟进。其接口是:输入状态 + 一组候选选项(Choice/Score/Noul 三种类型化输出),模型一次前向直接返回候选上的概率分布,不生成任何文本。输出被代码直接消费,厂商主打"每美元智能"(intelligence per dollar)。

**当前实践的结构缺陷。**Jeva 论文开篇指出:现有开源 System One 模型(JevK5、Intern-Decision、KEV 等)把请求和候选拼成序列化文本联合编码,再从答案 token 的 logits 或任务头读出决策。这个"用生成式模型模拟决策"的设计有四个结构性问题:

  1. 不感知空答案(non-null-aware):把候选分数归一化后,模型永远被迫在候选里挑一个,无法表达"没有一个是对的"。想象客服路由器遇到一个不属于任何已知类别的问题——softmax 会硬塞给它一个错误类别。
  2. 不对称置换(non-permutation-invariant):把选项 A、B、C 换成 C、A、B,决策可能改变。Jeva 实测主流基线的决策翻转率高达 17%–45%(Qwen3.5-4B label LP 达 84.5%)。
  3. 不可扩展候选(non-option-scalable):基于固定答案符号表(如字母 A-Z)的实现,候选超过 26 个就无能为力;Intern-Decision 在 K=128 以上直接不支持。
  4. 不可缓存(non-cacheable):候选内容被编码进请求特定的联合上下文里,换个请求就得全部重算。而工具注册表、文档库、标签表往往跨请求复用——这部分计算本来可以省。

**范式还缺两块拼图。**其一,病理学:这些模型在真实 agent 循环里到底错在哪?错误率数字无法回答"是没读懂状态,还是读懂了还选错"——因为没有思维链可以检查。其二,工程化落地:快思考模型单独存在意义有限,它必须与慢思考组件协作,才能组成完整的研究型 agent;这种分工到底能省多少钱、提多少准,需要严格实证。其三,多模态:视频 agent 同样需要"看完视频立刻判断"的及时决策能力,范式能否平移?

这四篇论文恰好构成对上述四个缺口的完整回应:Jeva 立原理、Reading Right 做病理、JevGPT 落工作流、VideoJev 扩多模态。


二、论文定位和关联工作:四篇论文的关系图谱

这四篇论文不是孤立工作,而是围绕同一范式的一次"学术会诊"。我们先梳理各自的研究谱系,再看它们如何互相咬合。

2.1 Jeva:站在集合函数与检索的肩膀上

Jeva 的独立编码 + 晚交互设计有三条清晰的技术血统:

谱系代表工作核心思想与 Jeva 的差异
稠密检索DPR(Karpukhin 2020)、ColBERT(Khattab 2020)查询与文档独立编码,语料可预计算检索只做独立打分,Jeva 保留候选间交互(状态精炼)
集合函数Deep Sets(Zaheer 2017)、Set Transformer(Lee 2019)、Perceiver(Jaegle 2021)对称聚合实现置换不变性Jeva 精炼的是请求状态而非集合本身,候选作为不可变记忆
System One 工程实践JevK5 / Intern-Decision / KEV / ReFlex / CLM 等从联合文本读出决策均未把四大结构性质做成构造保证

关键区别:DPR 式独立打分的 softmax 分母在两候选的 odds 比中抵消,加减其他候选永远无法反转两个保留候选的偏好(Jeva 命题 1 的反面)。Jeva 用"仅精炼请求状态、读取不可变选项记忆"的设计,既保留独立编码的可缓存性,又通过集合条件化的状态更新实现偏好反转能力。

2.2 Reading Right:诊断谱系的集大成

knowing-vs-doing 的分离研究已有脉络:Sobotka 等区分观察-信念与信念-动作鸿沟;Schmied 等报告"能说出好策略但不照做"的鸿沟;Press 等发现组合性鸿沟(子问题全对、合成问题失败)。Reading Right 的推进在于三点:同一状态上的配对测量(探针与决策输入逐字节相同,而非自由文本理由)、模型无关的探针充分性判据(不依赖任何模型即可检查探针能否支持归因)、以及 18 个系统的规模化横评。它的行为学测试方法论直接继承 CheckList(Ribeiro 2020),子问题先答再合成则呼应 least-to-most / 分解提示 / PAL,但所有子问题都发给同一个 choice-only 接口、合成由调用方代码完成——这正是 System One 的设计用法。

2.3 JevGPT:快慢系统分工的最新实证

固定语料 QA(BrowseComp 系)上的 agent 已有 Pi-Serini(BM25+推理模型)、Agentica、AtlasNav、RISE、Reason-ColBERT 等强基线,全部用推理模型包打一切。JevGPT 的定位是第一个把"可并行的局部证据判断"显式分配给 System One 的双系统架构,并给出每个组件的美元价值拆解。它与 Reading Right 的建议(“让快模型读,把组合交给代码/规划器/深思”)在同一周殊途同归。

2.4 VideoJev:范式多模态化的接力

视觉侧已有 Visual Jev(共享图像上下文的强制选择)、PixelJev(图像识别+多选 VQA)、FreeRet(用 MLLM 多选概率做免训练重排)。视频特有难点是时序结构(输出是连续区间而非离散标签)与昂贵视觉前缀的跨查询复用。VideoJev 是第一个把时序定位与视频 QA 统一为候选打分的系统实现。

2.5 定位总结

论文角色一句话定位
Jeva原理化把四大结构性质从"训练目标"变成"架构内的构造保证"
Reading Right病理诊断首个对 System One 做"读/做解耦"的大规模诊断框架
JevGPT工作流落地双系统分工的最完整成本-精度实证
VideoJev多模态扩展候选打分 + 视觉前缀复用在视频域的首个系统落地

三、问题定义:四篇论文抽象出的共同本质问题

四篇论文表面主题各异,但可以把它们放进同一个抽象框架:当一个系统需要针对结构化候选集合做高频微型决策时,如何让决策的结构性质、错误归因、系统分工与计算复用各自成为可设计、可测量、可优化的对象?

3.1 Jeva 的问题抽象

具体问题:怎么设计一个架构,使得 null 感知、置换不变、候选可扩、可缓存四个性质自动成立? 抽象问题:这是代数结构对齐问题——决策问题天然带有集合语义(候选是无序的、可增删的、可跨请求复用的),那么架构的计算图是否与这个代数结构同构?Jeva 的回答是把"请求-条件化、集合-条件化"两种依赖显式分离:候选侧计算只依赖候选自身(⇒ 可缓存、置换只重排不改变),请求状态在固定候选记忆上精炼(⇒ 集合依赖的判断力),覆盖概率独立于候选竞争(⇒ null 语义不混入基数项)。

形式化:给定请求 (状态 x, 问题 ι, 类型 t) 与候选集 O=(o₁,…,o_K),求联合分布 p(Y=i)=ρ·q_i,其中 ρ=σ((max_i s_i − b_cov)/τ_cov) 是"存在可接受候选"的概率,q=softmax(s/τ_dec) 是条件竞争分布。约束:p 对候选置换等变、ρ 不含 log K 项、候选表征不含请求信息。

3.2 Reading Right 的问题抽象

具体问题:System One 选错动作时,是读错了还是决策错了? 抽象问题:这是能力解耦测量问题——把单一准确率指标分解为"理解"(U:所有事实探针全对)与"决策"(D:动作正确)两个可独立测量的维度,交叉成 U1D1/U1D0/U0D1/U0D0 四象限。其精妙之处在于充分性判据的引入:对共享同一探针答案向量的状态组 S,若 ∩G(s)≠∅(存在一个在所有可能状态里都正确的动作),则探针集在 S 上充分——读对却做错才可以归因于决策。这个判据不依赖任何模型,把"归因有效性"从猜测变成了可检验的数学条件。

3.3 JevGPT 的问题抽象

具体问题:自主研究 agent 预算有限,如何又快又准又便宜? 抽象问题:这是计算分工的可并行性分解问题——研究规划需要累积全局信息 ⇒ 本质串行、需要长程推理(System Two);局部证据判断(这段文字支不支持目标 u?这个文档相不相关?)只依赖受限目标与单一区域 ⇒ 本质可并行、可交给便宜的 System One。分工的判据不是"难易"而是信息依赖的局部性。

3.4 VideoJev 的问题抽象

具体问题:视频时序定位和视频 QA 怎么共享一个决策接口? 抽象问题:这是输出空间重构问题——时序定位的输出(连续区间 [a,b])看似与多选 QA(离散字母)结构不同,但都可以改写为"对候选集合打分":时间线切成 K 个帧对区间,对每个区间打"属于事件"的隶属分,再用 Kadane 算法 O(K) 解码最优连续段。输出空间一旦对齐,两个任务共享同一个打分头、同一种前缀复用、同一套训练配方。


四、问题解法:四篇论文的方法拆解

4.1 Jeva:决策原生架构

整体结构(类比:把"联合编码的大模型"拆成"共享编码器 + 极小的决策核"):

  1. 独立编码:共享骨干 Qwen3.5-4B 分别编码请求(模板含类型/问题/状态)与每个候选(模板只含类型与候选文本,不含当前问题、状态、候选序号——这保证候选表征与请求无关)。池化 + 无偏投影得到请求状态 z₀ 和候选向量 u_i。
  2. 候选条件化的状态精炼:轻量决策栈(仅 L=1 块、8 头、d=768)只在不可变选项记忆(K/V)上做注意力,更新请求状态 z_l;候选向量全程冻结。命题 1 证明:仅一个块即可在换入换出第三个候选 C⁺/C⁻ 时反转 A、B 的偏好——这是独立打分器(DPR 式)在数学上做不到的。同时混合器直接构造消息、从不物化 K×K 交互矩阵,复杂度对 K 线性。
  3. 竞争、覆盖与类型化输出:终态打分 s_i = z_L^T u_i,softmax 给条件分布 q。覆盖门 ρ=σ((max s_i − b_cov)/τ_cov) 单独估计"至少一个候选可接受"的概率;p_⊥=1−ρ,p_i=ρq_i。命题 2 证明 ρ 对"加入低于现有最大分的候选"不变,而平坦 softmax 的 null 概率会被 log K 项污染。同一套计算支持 Choice(选候选)、Noul(读正候选概率)、Score(期望 Σq_i·v_i 对应 rubric 数值)三种输出。
  4. 缓存:原子选项记忆 M(o)=(u, {k_l, v_l}) 不含请求与其他候选(命题 3),可跨请求、跨新组装的候选集精确复用;请求编码与决策始终新鲜。
  5. 训练:LoRA rank-64(13.37M 可训练参数)+ 决策头,10 阶段课程(typed decisions → intent → 反事实/验证 → 开放集 → 阅读/推理 → 大候选检索等,约百万级样本),联合交叉熵 ℓ = BCE(g, c_y) − Σ y_i log q_i,恰好分解为覆盖项 + 竞争项。

4.2 Reading Right:配对探针诊断框架

  1. 决策状态与封闭世界原则:每个状态含目标、执行历史、规则与全部可行动作 A(s)(无一省略、无预筛选、候选不由 LLM 提出);金标 G(s) 只从 agent 已见信息计算(模拟器中为最短路径首动作集合或探索动作)。工具调用按"工具选择 × 闭合参数"分解枚举。
  2. 事实探针:同一状态上独立询问事实问题(上一步成功了吗/在哪/拿着什么/已完成哪些子目标/某动作是否被允许),答案由模拟器/数据库判定。探针与决策输入逐字节相同、各自单独作答。
  3. 四象限测量:U(全部探针对)×D(动作对)交叉;核心指标是 U1D0(读对做错)占比。
  4. 充分性判据(§2.4):共享探针答案的状态组内金标交集非空 ⇔ 探针集充分 ⇔ U1D0 可归因于决策。
  5. 受控变体:历史消融(删执行历史)、观察最小编辑对(只改最后一条相关/无关观察)、规则变更(声明式改规则使先验知识失效)、难度阶梯(轨迹长度 × 决定性观察距离)。基准共 65,228 条记录、19,663 个配对测试状态,覆盖 ALFWorld/BabyAI/TextWorld/τ²-bench/工具/网页/真实编码轨迹,hash 封存冻结。
  6. 干预研究:三类"加信息重问决策"——合成程序州(探针充分性由构造保证)的四条件阶梯(原始轨迹 / 轨迹+相关事实 / +无关事实对照 / 仅事实);真实状态上的 probe-then-decide(加基准探针/自己答过的探针/正确答案);ALFWorld 决策导向探针(每状态约 26 个窄问题 + 下一子目标)。

4.3 JevGPT:双系统自主研究架构

  1. 分工:System Two = GPT-5.5(medium reasoning),负责搜索规划、证据目标设定、发现整合、最终作答;System One = Jev-1.13.0,对每个候选源区域并行做局部判断,返回原文段落(保留源坐标)。
  2. 证据定位(QA):Noul 判断给"区域解决目标 u"的概率 e_{u,r},阈值 τ_loc=0.5 过滤;Choice 判断在文本块上取分布,最高块概率 <0.8 且次块 ≥0.15 时加选次块;每检索单元至多 16 个重叠区域、每区域至多 60KB 源文本。自适应阅读最多加读 2 页上下文后重评。
  3. 相关性评估(排序):Score 判断输出 4 级分布(无关/擦边/相关/高度相关),保留概率 p_d=P(2)+P(3),阈值 0.25;候选评估数超 20 触发"继续检查"判断(继续有益概率 ≥0.5 才继续)。
  4. 主动证据发现:每次搜索后前 K=60 个检索单元进入发现分支;QA 把问题切成至多 6 条线索按覆盖+特异性加权选源(τ_lead=0.5,至多 3 源);排序以 p_d 为优先级至多返回 10 文档;距 300 秒预算的提交提醒不足 45 秒则不再启动新批次。
  5. Hybrid BM25:文档级得分与段落级得分(max over 段落)各自 min-max 归一化后等权 ½+½ 融合;长文档贡献至多 2 个排序段落。

4.4 VideoJev:视频候选打分

  1. 架构改造:预训练 MLLM(Qwen3.5-4B / Qwen3.6-35B-A3B)移除最终 MLP(依据 pre-MLP 特征已支持语义相似度的观察),LM 输出头换成共享候选评分器:决策 token 与候选 token 的隐状态分别投影到 512 维、L2 归一化,logit s_i = 10·u^T v_i + b。新增 <|option_end|> 与 <|decide|> 两个 token(从 <|im_end|> 初始化)。
  2. 统一输入:视频 token 在前,接任务指令 + 查询 + 候选列表。时序候选 = 时间戳文本(帧对区间),文本候选 = 选项文本——同一格式。
  3. 任务损失:时序定位用多标签 BCE(区间中点在标注事件内为正)+ Soft IoU(按区间时长加权的覆盖监督,+4.6 mIoU 的关键);解码用阈值 τ=0.25 调整 logits 后 Kadane 算法 O(K) 找最大和连续段。QA 用 softmax + CE;训练时做答案无关的选项置换以抑制位置捷径。
  4. 两阶段训练:先冻骨干只训头(30% 视频),再联合适应(70% 视频)——模仿 MLLM 投影器对齐的惯例,省算力且稳定。
  5. 两种推理模式:Cached inference(视频前缀编码/预填充一次,逐查询分支复用)与 Joint inference(多查询接同一前缀,一次因果前向读出全部分数)。10 个查询 Joint 仅比 1 个查询多 55ms(grounding)/ 31ms(QA)。

五、评估指标与实验证据

5.1 Jeva:用结构性质本身当指标

Jeva 的评估分两层:常规决策质量 + 结构性质的直接测量(这是它区别于所有基线的评估设计)。

维度数据集/设置Jeva-4B最强基线证据说明
决策准确率Typed/B77/MASSIVE/M2W 8 切片7/8 第一(B77 K=8 92.05、MASSIVE 91.09、M2W 79.99)InternDecision-4B(Typed 78.70 略高)全面超过 Jev-1.13.0(74.10)、JevK5、KEV、Re·Flex 等
Noul/Score 保真600/800 例Noul Brier 0.0184、Score MAE 0.2315 最优Intern-4B 0.0340/0.2488软概率目标下的校准
置换翻转率600 例 Choice × 5 种排序0.00%,mean TV 3.17e-08KEV 17.17%、Jev-1.13.0 17.00%命题 3 的实证:构造保证而非训练目标
Null 检测B77 K=16,588 个无答案请求AUROC 98.66%,5% FPR 下 TPR 93.88%KEV 93.61%、Intern-4B 84.27%覆盖门 vs 显式 None 候选/辅助问题的差距
大候选集ToolRet K=32→2048全支持,聚合 78.40%;K=2048 达 69.88%(12.0s,批处理 7.85× 加速)JevK5 递归 64.00%/67.47%(28s);Intern/KEV K≥128 不支持嵌套候选扩展中 58/83 全尺寸正确(JevK5 48、CLM 7)
跨请求复用MLDR 50% / 100% 重用Hybrid 缓存 p50 加速 27.98×(2102ms→75.1ms)—决策完全不变,最大概率差 0.00736

实验设计为何有证明力:置换测试直接检验命题 3(架构 ⇒ 数学上的等变性),翻转率 0% 与 TV 3.17e-08 说明这不是"训练得不错"而是"结构上必然";缓存测试给出"复用前后决策逐位不变"的数值证据,把"缓存不改变答案"从工程假设变成可验证断言。

5.2 Reading Right:用配对四象限说话

18 个系统(14 个 System One + 3 个 LLM 似然读出 + GPT-6.1 推理参照)在同一 19,663 个配对状态上的核心结果:

系统决策准确率 D事实全对率 U读对做错占错误比备注
GPT-6.1(推理参照)0.8840.94385.2%成本 ≈ JEV 的 73 倍($642 vs $8.79)
Gemma-4-31B 似然读出0.8110.88880.9%最准快系统,但 ECE 19.1% 严重过自信
Eikos-27B0.7950.85077.7%最准 System One 模型
JEV 1.130.7630.83373.1%$0.13/千决策
Torchcast-27B0.6780.85878.7%读得最好、决策掉队的最大鸿沟案例

三大发现:(1) 六个最强系统 73–85% 的错误发生在事实全对的状态,且占比随准确率上升而上升;(2) 错误不是噪声——14 个合格快系统有 141 个状态集体失守(零假设期望 0),56% 的 U1D0 错误集中在 ≥7 系统同败的状态上;(3) 干预实验定位根因——合成程序州上"读与合成各自满分、合起来掉 20–45 分",把模型自己的事实答案拼回去 +15~28 分、用代码按规则组合自己的答案达 0.96–1.00;真实 ALFWorld 上加下一子目标 +16.3 分(JEV),而任何事实块最多 +5.7。

实验设计为何有证明力:四象限分解把"准确率"这个黑盒拆成可归因的失败模式;充分性判据防止"探针没问到点上"的归因污染;加信息干预(含无关文本对照)建立因果而非相关;标签审计(303 条共置容器标签错误的敏感性分析)反而让结论更保守。

5.3 JevGPT:精度-成本-速度三杀

基准指标JevGPT最强基线效率
BrowseComp-Plus(830 题/100,195 文档)准确率90.48%Reason-ColBERT 90.00 / RISE 89.88时间最短 91.7s、搜索最少 9.13 次;总成本 $0.668/题 ≈ 同精度方法的 40–60%
NeuCLIRBench(105 主题跨语系)nDCG@20 / F1@200.5390 / 36.10%Pi-Serini 0.5240/35.0279.3s(少 55%)、158K tokens(少 78%)、2.68 次搜索
消融(415 匹配题累积)准确率72.05 → 86.51(+14.46)—Hybrid BM25 +7.47、Evidence Discovery +5.31、Localization +1.68
System One 替换实验nDCG@20Jev 0.5491 vs GPT-5.5 0.5310(K=0)—Jev 的 S1 成本 $0.0074 vs $1.7363(<1%,235 倍差距),耗时 82.1s vs 353.3s(<1/4)

实验设计为何有证明力:替换实验是全文最有说服力的一张表——固定 System Two,只换 System One 执行者,质量持平甚至反超而成本差两个数量级,直接证明了"局部判断不需要贵模型"这一分工假设;累积消融把每个组件的价值拆成可复算的分数与美元。

5.4 VideoJev:质量与速度的双面验证

任务指标VideoJev-4B / 35B-A3B对比速度
时序定位(3 基准均值 mIoU)65.3 / 67.7骨干 Qwen3.5-4B 58.6(+6.7)/ Qwen3.6-35B-A3B 56.9(+10.8)超 TimeLens2-4B +3.3;35B 超 Gemini-2.5-Pro(60.4)0.276/0.336s,较骨干加速 2.8–3.1×
视频 QA(4 基准均分)74.3 / 79.5较 Instruct 骨干 +8.0 / +5.735B 反超同骨干 Thinking +0.7较 Thinking 加速 129× / 100×(1.49s vs 149.8s)
受控消融(同数据同调度)grounding/QAVideoJev 单阶段 65.4/74.7 vs AR SFT 64.1/72.8—证明架构收益非数据收益(+1.3/+1.9)

消融亮点:Soft IoU 监督单项 +4.6 mIoU(BCE 只管局部隶属、IoU 管事件覆盖);TG+QA 联合训练双赢(+0.7/+1.3,时序监督锐化证据定位、QA 强化语义判别);Joint 比 Cached 反而略好(13/14 项提升,训练与推理布局一致)。校准短板如实报告:四基准平均 ECE 8.65/8.13 个百分点,概率系统性高估正确率——但高置信(≥99%)预测的准确率达 95.8%(总体 73.4%),选择性使用仍有价值。


六、效果优势的根源解释

6.1 根源机制与证据链

Jeva:约束的结构化外移。

  • 因果链:候选表征只依赖候选(模板隔离)⇒ 选项 K/V 与请求无关 ⇒ 置换等变(命题 3)与缓存精确复用成为构造保证而非训练目标【论文实验已支持:翻转 0%、缓存复用概率差 0.00736】;覆盖门与竞争分布解耦 ⇒ null 语义不被 log K 基数项污染(命题 2)【论文实验已支持:AUROC 98.66% vs 次优 93.61%】;仅精炼请求状态、不物化 K×K 交互 ⇒ 复杂度对 K 线性 ⇒ 大候选集与低延迟并存【已支持:K=2048 单次打分 69.88%】。
  • 反事实:若无状态精炼(纯独立打分),命题 1 证明无法表达"换第三个候选反转前两个偏好";若无覆盖门(平坦 softmax null),命题 2 的 log K 项会随候选数系统性扭曲 null 概率。

Reading Right:读/做是两个独立的能力轴。

  • 因果链:choice-only 接口省略了"把已读事实组合成决策"的中间计算 ⇒ 读与合成各自满分的系统在合成上掉 20–45 分【已支持:JEV 读 100%/仅事实决策 1.000,原始轨迹 0.791】;把组合外移给代码(用模型自己的事实答案按显式规则组装)⇒ 0.96–1.00【已支持】;开放任务中缺失的不是事实而是子目标选择 ⇒ 加子目标 +16.3 分、任何事实块 ≤+5.7【已支持】。
  • 关键反直觉:信息不是中性的——同样字数的相关事实 +18 分、无关事实 −4 分(JEV 0.791→0.751),不完整的显著摘要能把 Gemma 从 0.659 拉到 0.341。这解释了为什么"多给上下文"不是万灵药。

JevGPT:信息依赖局部性决定分工。

  • 因果链:局部判断(这块文字支不支持目标)只依赖受限目标与单一区域 ⇒ 可并行 + 小模型足够 ⇒ Jev 吃掉 90%+ 的判断量 ⇒ 同预算内检查更广(Discovery K=60 深度)⇒ 精度与成本同时占优【已支持:替换实验质量持平、成本 <1%】。
  • 反事实:若局部判断也用 GPT-5.5(K=120 时 S1 成本 $3.54 > S2 成本),整个架构的成本优势荡然无存——分工不是可选项而是架构成立的前提。

VideoJev:输出空间与任务结构对齐。

  • 因果链:生成时间戳/字母 → 对候选集合打分 ⇒ (a) 读出与决策目标直接对齐(同数据下 +1.3/+1.9 反超 AR SFT)【已支持:受控消融】;(b) 免逐 token 反馈 ⇒ QA 比 Thinking 快 100×;(c) 因果注意力使视频前缀与查询无关 ⇒ Cached/Joint 复用成为可能 ⇒ 10 查询仅 +55ms【已支持】。
  • 反事实:保留最终 MLP 无增益(−0.2),Direct 模式的自回归基线(单 token 输出)在 Joint 布局下反而掉分(60.0→58.7)——说明收益来自"打分接口"本身而非"少生成几个 token"。

6.2 相关工作检索与对照(交叉验证)

第六部分的核心问题:Reading Right 对范式的批评与 Jeva 的构造保证如何对话? 两者表面冲突(一个说 System One 有系统性缺陷,一个说 System One 原理完备),实际在不同层面上互补。下面结合外部检索逐条对照。

研究相似尝试相关结论与本文四篇的差异与适用边界对根源解释的影响
Press et al., Measuring and Narrowing the Compositionality Gap (EMNLP 2023)子问题全对而合成失败的组合性鸿沟鸿沟不随模型规模缩小Reading Right 在 agent 决策场景复现并细化(拆出整合失败 vs 线索捕获 vs 子目标缺失三种机制);组合性鸿沟是通用现象,非 System One 特有支持 Reading Right 的"合成瓶颈"根源:换到 choice-only 接口依然成立
Valmeekam & Kambhampati, LLMs can’t plan (ICML 2024 position)LLM 弱自主规划、宜作规划模块的提议者外部规划器 + LLM 分工Reading Right 的 ALFWorld 发现(子目标 +16.3 > 任何事实块)是同一结论在 System One 上的镜像;JevGPT 的双系统是它的工程化身支持:缺失的是规划/子目标而非感知——两条独立证据链同向
Shi et al., Distracted by Irrelevant Context (ICML 2023)无关上下文损害 LLM 推理干扰是系统性的Reading Right 的"无关事实对照"(+相关 +18 vs +无关 −4)与"不完整摘要拉走模型"(Gemma 0.659→0.341)把该发现推进到决策接口;VideoJev 未做此对照支持并限定:信息非中性在决策场景更强——干预可能为负
Karpukhin et al., DPR (EMNLP 2020) / Zaheer et al., Deep Sets (NeurIPS 2017)独立编码可预计算 / 对称聚合保置换不变结构性质可由架构构造Jeva 的命题 1/2/3 正是把这两条老原理带入决策架构并补上"集合条件化交互"缺口;Reading Right 实测基线翻转率 17–45% 说明现有实践远未达到 Deep Sets 的结构标准支持 Jeva 根源解释:翻转 0% 是构造保证的直接兑现
Schmied et al., LLMs are greedy agents (ICLR 2026)(据论文引用)knowing-doing gap:能说对策略不做对RL 微调加剧决策保守Reading Right 在 τ²-bench 上发现 GPT-6.1 的"谨慎偏差"(该调工具时 16.7% 选择回复用户,占其错误 80%)——与贪婪/保守偏差谱系一致补充:错误结构还包含策略性偏差,非全是能力问题
Turpin et al., CoT 不忠实 (NeurIPS 2023)思维链不反映真实计算生成理由不可作证据为 Reading Right 的行为学方法(探针而非理由)提供方法论正当性;也说明 JevGPT 让 S1 不生成文本反而消除了不忠实解释的来源支持 方法论选择
VideoJev 自报校准缺口(ECE 8.65pp)与 Guo et al. 温度缩放 (ICML 2017)概率过信可用后验校准缓解校准独立于准确率VideoJev 未做校准训练(Jev 原版有 RL 校准),这是与 Reading Right"校准差异大于准确率差异"(ECE 2.6%–26.6% 横跨 17 系统)结论的呼应限定:概率可用性是范式的未完成项
本次检索范围内未发现直接反驳"读对做错占主导"的同期工作—Reading Right 自身数据中 Kev-9B 仅 49%(读做都弱时占比低);弱系统上"读错主导"仍可能成立限定条件:结论随系统变强而强化,不是普适常数

对话一:Jeva 的四大保证 ≠ Reading Right 的四大失败。 Jeva 保证的是输出分布的代数性质(换序不变、null 语义、K 扩展、缓存一致);Reading Right 诊断的是状态理解到动作选择的认知鸿沟。两者层级不同:前者是"决策读出层的数学正确性",后者是"决策内容本身的正确性"。Jeva 翻转率 0% 只保证不会因为选项顺序而错——不保证选的内容对。反过来说,Reading Right 里 Torchcast-27B 读得最准(U=0.858)却决策最差(D=0.678),这种"读做鸿沟"正是任何输出层构造保证都无法修复的。

对话二:Reading Right 的补救方案恰是 Jeva 的设计用法。 Reading Right 结论说"让模型读(许多窄问题并行),把组合交给代码、规划器或深思"。JevGPT 就是这个建议的完整实现:Jev 并行回答窄问题(Noul/Score),GPT-5.5 与代码做组合。Jeva 的三种类型化输出(Noul 天然适配"这条证据支持目标吗"的窄问题)为这种工作流提供了接口级支持。三篇论文在"范式应该怎么用“上完全一致:System One 不是更小的 agent,而是 agent 系统里的感知-判断原件。

对话三:共同的未完成项是校准与置信。 Reading Right 测得 17 个快系统的 ECE 从 2.6% 到 26.6% 不等——同接口下差异悬殊;VideoJev 未做校准训练,ECE 超 8pp。置信驱动的级联(Reading Right §6.1 中阈值 0.7 的二次请求拿到 0.932)与升级(JEV-as-a-judge)都依赖概率质量,这是范式下一步的明确工程缺口。

6.3 综合判断与未决问题

  • 多项研究共同支持的机制:(1) 结构性质应由架构构造而非训练逼近(Jeva 命题 + DPR/Deep Sets 谱系 + 基线 17–45% 翻转率的反证);(2) 读与组合是可分离的能力,组合瓶颈在开放任务中表现为子目标缺失(Reading Right 两套干预 + Press 组合性鸿沟 + Kambhampati 规划立场);(3) 局部判断可安全下放给便宜模型(JevGPT 替换实验 + Reading Right 代码合成 0.96–1.00)。
  • 仍属推测的部分:Jeva 的集合条件化交互在大规模真实 agent 循环(而非检索式任务)中带来多少端到端收益,论文只在 K≤2048 的选择任务上验证;VideoJev 的"Joint 略优于 Cached"可能是训练-推理一致性的副产品(作者自己也如此推测)。
  • 适用条件与失效条件:候选打分范式适用于候选可枚举、决策可类型化的场景;当任务需要开放生成(写代码、写报告)或候选空间本身需要构造时,必须由 System Two/规划器补位——Reading Right 的 141 个"全系统失守状态"与 GPT-6.1 的 τ²-bench 谨慎偏差说明,即使补上深思,策略性偏差与标签严格性仍是误差源。

七、必要知识反推

假设一个完全没有背景的研究者要同时做出这四篇论文,他最少需要掌握什么?

7.1 领域知识层

  • 决策论与概率基础:odds 比、log-odds、贝叶斯更新的含义——不理解"softmax 分母在 odds 比中抵消"就无法理解命题 1 为什么宣判独立打分器死刑。
  • Kahneman 双系统理论:知道快/慢思维的原始定义,才能识别"agent 步进决策不需要慢思考"这一范式切口。
  • agent 循环的工程形态:ReAct 式轨迹、工具调用枚举、状态-动作-观察三元组——Reading Right 的决策状态定义和 JevGPT 的证据区域都以此为骨架。
  • 概率校准:ECE、可靠性图、温度缩放——四篇论文共同的评估暗线。

7.2 方法论知识层

  • 集合函数理论:Deep Sets 的对称聚合、Set Transformer 的注意力交互、Perceiver 的潜表示——Jeva 决策栈的直接素材。
  • 信息检索:BM25 变体、稠密检索、ColBERT 晚交互、重排——Jeva 的缓存与 JevGPT 的 Hybrid BM25 都站在这一谱系上。
  • 行为测试与探针方法:CheckList 的受控输入变换、probing classifier 的局限(不忠实解释问题)——Reading Right 方法论的来源。
  • 组合性/分解提示:least-to-most、decomposed prompting、PAL——理解"子问题先答再合成"为何是 System One 的正确用法。
  • MLLM 结构细节:pre-MLP 特征的语义相似性性质(FreeRet 的观察)、因果注意力与 KV 缓存机制——VideoJev 改造输出头的依据。

7.3 工程知识层

  • LoRA 微调与课程学习:13.4M 参数训练出 4B 级决策模型的配方。
  • 延迟测量与批处理:H200 同步计时、前缀缓存、长度感知批处理(Jeva 7.85× 加速的来源)。
  • 基准构建与防污染:hash 封存清单、按源切分、新鲜生成确认队列、标签敏感性分析——Reading Right 基准可信度的保障。

7.4 知识融合的关键节点

  1. 代数结构 ↔ 计算图的对齐(Jeva 命题 1–3):把置换群作用、贝叶斯更新这类抽象代数事实翻译成架构约束——这是"从第一性原理设计"的实义。
  2. 测量有效性 ↔ 归因有效性(Reading Right 充分性判据):意识到"配对测量"本身需要数学许可(交集条件),把评估方法论提升为可证明的框架。
  3. 信息依赖局部性 ↔ 系统分工(JevGPT):用"这个判断需要看多少上下文"而非"这个判断多难"来分配模型档次。
  4. 输出空间重构 ↔ 任务统一(VideoJev):发现时序区间的连续结构与离散选项共享"候选打分"接口,Kadane 算法把区间解码压回 O(K)。

八、论文中可以提取的通用性灵感

灵感一:把结构性质做成构造保证,而不是训练目标。

  • 核心思想:任何希望模型满足的不变性(对称性、一致性、单调性),优先在架构层面让它数学上必然成立,而非靠数据增强或损失函数软性逼近。
  • 论文证据:Jeva 置换翻转率 0%(构造)vs 基线 17–45%(训练逼近);缓存复用决策逐位不变 vs 联合编码架构无法缓存。
  • 推广场景:①数据库查询优化器——把"等价 SQL 改写不改执行计划"做成计划生成器的对称性约束;②风控规则引擎——把"特征重排不改风险等级"构造进打分网络;③多语言客服路由——把"语言变体不改意图判定"做成编码结构;④科学计算——物理守恒律作为网络架构约束(已有 Hamiltonian NN 先例,本文提供了"决策问题版"方法论);⑤ UI 自动化测试——控件顺序无关的断言设计。

灵感二:能力诊断先配对解耦,再干预归因。

  • 核心思想:单一指标(准确率)掩盖失败模式;在同一输入上配对测量两种能力(如理解 × 决策),交叉成四象限,再用"加信息干预 + 无关信息对照"建立因果。
  • 论文证据:73–85% 错误是读对做错;相关事实 +18 分 vs 无关事实 −4 分的对照;子目标 +16.3 > 事实 +5.7。
  • 推广场景:①医生诊疗评估——分离"检查判读正确"与"治疗方案选择正确”;②代码评审 agent——分离"读懂 diff 语义"与"判断该不该合并";③自动驾驶——分离"感知正确"与"规控决策正确"的失败归因;④教育诊断——分离学生的"知识理解"与"知识应用";⑤ RAG 系统调优——先测检索理解 vs 生成合成哪一环塌了再对症下药。

信息非中性原则(同一灵感的推论):给系统补充信息前必须检验信息的"方向性"——不完整的显著摘要可能比不给更糟(Gemma 0.659→0.341)。适用于任何"加上下文"的工程决策。

灵感三:按信息依赖局部性分配计算资源。

  • 核心思想:多模型系统里,组件该用多贵的模型,取决于它的判断需要聚合多少信息(依赖局部性),而非任务表面的难度等级。
  • 论文证据:JevGPT 中局部证据判断(受限目标 + 单一区域)下放给 System One 后质量持平、成本 <1%;而研究规划因需全局累积信息保留给 GPT-5.5。
  • 推广场景:①代码审查流水线——单文件风格检查用小模型、跨模块架构决策用大模型;②金融风控——单笔交易规则判断实时小模型、团伙欺诈图谱分析离线大模型;③内容审核——单条内容分类小模型、事件脉络研判大模型;④工业质检——单工件缺陷检测边缘模型、批次工艺归因云端模型。

灵感四:连续输出可以离散化为候选打分。

  • 核心思想:看似结构完全不同的输出(连续区间 vs 离散标签),如果都能改写为"对候选集合打分 + 结构化解码",就能共享模型、训练与推理基础设施。
  • 论文证据:VideoJev 把时序定位(连续区间)转为区间隶属打分 + Kadane O(K) 解码,与视频 QA 共享一个头,联合训练还双赢(+0.7/+1.3)。
  • 推广场景:①语音端点检测——帧级打分 + 连续段解码;②医学影像病灶分割——超像素候选打分;③排班/路径规划——离散化候选 + 区间组合解码;④音频高光检测——片段打分 + 连续高光段抽取。

灵感五:昂贵的共享前缀只算一次。

  • 核心思想:多查询场景中,把"与查询无关的上下文编码"和"查询特定的读出"在架构上分离,前者缓存/合并计算,后者保持新鲜。
  • 论文证据:Jeva 跨请求缓存 27.98×(决策不变);VideoJev Joint inference 10 查询仅 +55ms;JevGPT 的并行证据判断本质上是"一次检索 + 多个便宜读出"。
  • 推广场景:①法律合同审查——合同编码一次、条款问题批量打分;②日志异常检测——日志流前缀一次编码、多模式并行匹配;③多租户 SaaS——租户配置作为可复用前缀;④ BI 多维分析——数据集语义层一次编码、多查询共享。

灵感六:置信驱动的级联是廉价系统的正确打开方式。

  • 核心思想:快系统的概率输出若足够校准,可作为"何时升级到慢系统"的触发器,以极小成本保住头部精度。
  • 论文证据:Reading Right 的置信级联(阈值 0.7,38% 状态二次请求)拿到 0.932;VideoJev 高置信(≥99%)预测准确率 95.8% vs 总体 73.4%;JevGPT 双系统成本仍只有纯推理方案的 40–60%。
  • 推广场景:①客服机器人——低置信转人工;②自动驾驶——低置信降级为保守策略;③医疗影像 AI——低置信标记医生复核;④内容生成——低置信段落触发深度重写。

附:四篇论文一览表

JevaReading RightJevGPTVideoJev
一句话决策原生架构的原理化读做解耦的病理诊断双系统分工的落地实证候选打分的多模态扩展
核心方法独立编码+状态精炼+覆盖门配对探针×动作四象限S2 规划 + S1 并行证据判断共享候选评分器 + 前缀复用
最硬数字翻转 0%/Null AUROC 98.66%/缓存 28×73–85% 读对做错;代码合成 0.96–1.00S1 成本 <1% 同质量;90.48% 第一QA 快 Thinking 100× 且 +0.7 分
对范式的角色立宪法做体检派工作开疆土
留下的缺口集合交互的端到端收益待验行为证据非内部机制限于固定语料校准未做(ECE>8pp)