The Missing Primitive: Diagnosing and Repairing Mathematical Reasoning in Large Language Models 精读

论文：The Missing Primitive: Diagnosing and Repairing Mathematical Reasoning in Large Language Models（arXiv:2610.02191v1，cs.LG，2026 年 10 月 1 日） 团队：Texas A&M University（TACO Group）+ Harvard + Vanderbilt + Stanford + DARPA + UNC Chapel Hill，纯学术与政府研究机构合作、无企业作者；通讯作者 Zhengzhong Tu 项目主页：taco-group.github.io/Math-Primitive 类型：Benchmark + 诊断分析 + 后训练方法（PRIM 基准 + ABSORB 方法） 一句话：把「会解数学题」拆成「发现结构」和「执行推导」两件事分别测量，发现瓶颈几乎全在前者，再用「只补给教师看」的原语做有界覆写蒸馏，把这块短板补上。

一、论文背景：答案对错背后的两种能力

被一个二值信号打包的四种状态

LLM 数学能力的评估，长期建立在一个非常薄的信号上：最终答案对不对。

GSM8K、MATH、AIME 乃至 Omni-MATH 这条 benchmark 线，无论题目难度怎么卷，评分协议基本都是「抽取最终答案、exact match、给分」。CoT 兴起后多了一层「展示推理过程」，但过程的展开几乎从不参与评分——链条被丢弃，只有答案被计分。

这个协议的盲区早有讨论。数学推理综述对 MATH 的局限有一条被反复引用的总结：「final-answer scoring ignores reasoning validity」——答案对了可能来自碰巧的模式匹配或干脆记忆，推理链漂亮也可能在最后一步算错。更进一步，unfaithful reasoning 的研究显示，模型给出的推理链未必真实反映其内部决策过程：一份看起来头头是道的推导，可能是答案先「知道」了、理由后编出来的。也就是说，我们其实不知道一个「做对了」的模型是不是「理解了」。

更深一层的混淆

但这篇论文把盲区切得更深一层。它指出在「答案正确率」和「推理过程有效」之下，还藏着一组未被分离的能力。

一道非平凡的数学题之所以可解，几乎总存在一个承重的概念性洞察——一个不变量、一个定理适用条件、一次关键的重述或归约。人类数学教育把「找到这个洞察」叫开窍，把「找到之后一步步推下去」叫计算功底。对 LLM，这两件事被「最终答案对错」这同一个二值信号打包测量，于是产生四种被混淆的状态：

1. 结构发现了、推导也执行对了（真会）；
2. 结构没发现，靠模式匹配撞对了答案（假会）；
3. 结构发现了，但低层执行翻车（可惜的失败）；
4. 结构就没发现，直接失败（最常见的失败）。

前两种被评估协议判为同样正确，后两种被判为同样失败。论文的出发点就是把这个混淆拆开：如果你不能分别测量「发现结构」和「执行推导」，你就既无法定位数学推理的真实瓶颈，也无法针对性地修复它。

为什么这不是学术洁癖

这不是一个纯学术的洁癖问题。2025–2026 年的推理模型竞赛里，各家模型在榜单上的答案正确率已经贴身肉搏，但「榜单分数相近的两个模型，能力结构可能截然不同」的直觉越来越强。

论文开篇的诊断结果印证了这一点：Generation 准确率相近的两个模型，Discovery 能力可以差 30 个百分点以上。评估粒度不够，优化方向就是盲的——你不知道该往「教模型认结构」还是「教模型少算错」上投入算力，而这两件事需要的训练数据和方法完全不同。

于是整篇论文的工作自然分成两段：

• 先诊断——构建 PRIM 基准，把「会解」解耦为四个可分别测量的维度，对 12 个模型做能力画像，找出主导失败模式；
• 再修复——基于诊断结论设计 ABSORB 后训练方法，验证「补上缺失的结构信息」能否转化为无辅助推理的提升。

诊断驱动的修复（diagnosis-driven repair），这个「先测量、后动手」的顺序本身就是方法论上最值得注意的地方。后文会看到，ABSORB 的每一个设计决策都能在诊断结果里找到直接依据——这不是巧合，而是这篇论文与大量「先想个方法再找理由」工作的本质区别。

二、论文定位和关联工作：三条线的交汇点

论文横跨三条研究线，并在每条线上都做出了清晰的差异点。

第一条线：数学推理 benchmark

从 GSM8K（grade-school 算术）到 MATH（竞赛级符号推理）、OlympiadBench、Omni-MATH，再到大学级与博士级难题（HLE 数学子集），难度一路走高，但评分协议始终以最终答案为核心。

过程级评估的尝试（PRM 类工作）评的是「每一步是否正确」，关注的是执行质量而非结构发现。论文的差异在于：PRIM 第一次把「结构发现能力本身」作为一等公民来测量——它不问「这步对吗」，而问「你有没有看到这道题为什么可解」。四维度协议（见第三节）让「发现」与「执行」在同一个基准内部可比，这在 benchmark 设计上是新的。

第二条线：distillation 与 privileged information（特权信息）

学习时蒸馏（LUPI）思想在 LLM 时代演化出 on-policy self-distillation 一族：教师与学生同源，学生在线生成自己的轨迹，教师沿轨迹给 token 级监督。

OPSD（On-Policy Self-Distillation）是这条线的代表——教师条件化于特权信息（如参考解、工具调用轨迹），学生不带特权推理，两者之间用反向 KL 耦合。本论文的 ABSORB 直接站在 OPSD 框架上，差异点有两个：

• 特权从「完整参考解」换成「一句数学原语」——信息密度的数量级变化；
• 转移机制从无界 rKL 换成非对称钳制的有界覆写——对教师监督的可信区域做显式建模。

消融实验会证明这两个差异各自都是必要的，缺一不可。

同期工作也佐证了这条线的活跃：TRACE 发现全 token KL 会放大特权信息泄漏、主张只在关键 span 上蒸馏；Switch Distillation 按教师熵分路由、只在教师自信时用 rKL。ABSORB 的单侧钳制与这些工作共享同一个直觉——教师的监督并非处处可信，尤其当教师看到了学生看不到的东西时——但实现路径不同：不做整 token 的保留/丢弃二元决策，而在 log-ratio 层面连续限幅。

第三条线：scaffolding / plan / hint

给模型提示、计划、分解大纲来解锁性能，是 prompt 工程的长青主题。论文必须回答一个尖锐的问题：你给模型一句「原语」，跟给一份分步 plan、给一条 hint 有什么本质区别？

答案是原语与计划属于不同类型的信息：

• 计划是程序性大纲——「先做 X 再做 Y」，告诉你路怎么走；
• 原语是使该策略适用的结构性质本身——「这两个对象都只有一个洞」，告诉你为什么存在这样一条路。

论文用对照实验把这条区别做实：同一位教师，给 plan 提升 +3.29~+9.89pp，给原语提升 +12.09~+16.48pp——信息类型本身驱动收益，不是「多给了点上下文」的通用效应。这也是标题「The Missing Primitive」的出处：模型缺的不是步骤指引，是那个使步骤有意义的结构原语。

定位结论

这是第一个「用解耦评估定位数学推理瓶颈、再用瓶颈结论反推后训练设计」的闭环工作。诊断侧（PRIM）与修复侧（ABSORB）互为因果——没有诊断发现的「83.6% 失败在发现、执行能力潜伏」，就没有「原语作为特权信息只给教师」的设计；没有后训练结果，「发现瓶颈可修复」也只是纸上推断。

三、问题定义：把「会解」拆成四个可测量的动作

数学原语：Definition 1

对问题 x，原语（primitive）p 是揭示「这道题为什么可解」的本质概念性观察。它捕获问题与解答共享的潜在数学结构——可以是一个不变量、一个定理条件、一种表示、一次归约或一次重述。

合格的原语必须同时满足三条性质：

• 简洁：一句话级别，不是一段论证；
• 问题特定：针对这道题，不是万金油建议；
• 有解释性：讲清利用了什么性质、该性质如何解锁解答。

它明确不是：例行计算、泛泛建议（「用归纳法试试」「考虑某某定理」）、或一份完整证明。

论文给了一个直觉例子：问「马克杯和甜甜圈是否同胚」。原语是「两者都有且仅有一个洞（亏格为 1）」——这一句观察直接使问题坍缩为初等拓扑；而「构造映射 f: M→D 并验证双射与连续性」是执行层面的步骤清单，不是原语。原语是让整个策略得以成立的那个结构事实，计划只是顺着这个事实走出来的路。

十种冻结类型、三大族

操作化上，原语被锚定在 10 种冻结类型：等价重述（reformulation）、隐藏结构（hidden_structure）、不变量与单调性（invariant_or_monotonicity）、定理适用性（theorem_applicability）、对偶与表示（duality_or_representation）、极值原理（extremal_principle）、构造与见证（construction_or_witness）、归约与嵌入（reduction_or_embedding）、障碍与反证（obstruction_or_contradiction）、归纳与递归（induction_or_recursion）。

再归并为三大族（family），按「承重对象是什么」划分：

这个分类学的价值在于把「结构洞察」从玄学变成了可枚举、可标注、可审计的对象。

PRIM 基准的构建

基于 Humanity’s Last Exam 的数学、纯文本、自由作答子集构建：

• 从社区校验的 HLE-VERIFIED（Gold + Revision 子集）随机抽 200 题；
• GPT-5.4-High 生成初始原语标注，三位研究生水平数学专家独立审核；
• 剔除 18 题不适题目，最终 182 题；
• 专家顺手修正了 15 题残留答案错误（13 处数学错误、2 处答案字符串损坏）；
• 审计并剔除原语中的答案泄漏。

这个「连底账一起清」的数据卫生流程，在同类 benchmark 工作里算少见的扎实——很多基准连参考答案本身的对错都没验过。

四维度解耦测量

设 x 为问题、p 为原语、y 为完整解答、π 为被测模型：

这四个探针的交叉对照才是设计精髓：

• Generation 对 Execution 的差 = 「结构信息值多少分」；
• Discovery 对 Digestion 的差 = 「前瞻发现 vs 回溯识别」的不对称。

结构性数学理解在论文里就操作化为这组解耦测量的组合，而不是某个单一分数。

原语评分协议

原语质量用三判据分解打分：

• 有效性 V∈{0,1}：排除泛泛建议、裸技巧名、纯计算；
• 结构命中 σ_gate∈{0, 0.5, 1}：是否命中本质结构（WHAT）；
• 机制解释 σ_mech∈{0, 0.5, 1}：是否解释该结构如何启用解法（HOW）。

Score = V · σ_gate · (0.6 + 0.4·σ_mech)，PrimitiveAcc 判定为 Score ≥ 0.8。评分由 GPT-5.4-High 温度 0 产出；200 样本人工校验下 judge-human 一致率 95.5%（Cohen’s κ = 0.91）；对「单一金标可能低估替代路线」的审计显示，100 个判错样本中仅 1 例含被漏计的有效替代原语。测量本身的可靠性，被论文当作一等公民来论证。

四、问题解法：从诊断到 ABSORB

诊断发现一：答案正确率掩盖截然不同的能力画像

12 个模型（GPT-5.4 系列 ×4、Qwen3.5/3.6 ×4、DeepSeek-R1 蒸馏系 ×4）的画像差异巨大：

• Qwen3.6-27B 与 gpt-5.4-mini 的 Generation 相近，Discovery 却差 30+ 个百分点；
• OpenAI 系偏「原语先行」（D+G− 比例高——找得到结构但执行糙）；
• Qwen 偏「先磨后悟」（D−G+ 多——答案常对但关键结构要到推理约四分之一处才涌现，前面是大量试探）;
• R1 蒸馏系集中在联合失败（D−G−）。

同一个榜单分数背后是三种完全不同的病。这对模型选择的含义是直接的：如果你的下游任务执行出错代价高，选「原语先行」的模型；如果任务结构密度低、拼的是稳妥，画像可能反过来。

诊断发现二：正确原语解锁大量潜伏的执行能力

给金标原语后，全部 12 个模型的 Execution 相对 Generation 提升 +17.58 ~ +29.67 个百分点：

• Qwen3.5-4B：26.37 → 56.04（全表最大单项提升，+29.67）；
• R1-Distill-7B：13.19 → 32.42；
• gpt-5.4：67.03 → 86.81。

同条件下 Qwen 的 Execution 直接追平闭源 gpt-5.4 系列——执行能力不是差距所在，差距在拿不拿得到那把钥匙。

更关键的是三个对照，排除了「拯救效应」的廉价解释：

• 用模型自生成的原语条件化几乎无益甚至有害（Qwen3.6-27B 上 −11.54）——自己产不出有效原语，自我提示是空转；
• 给教师的分步 Plan 提升远小于教师原语——程序性脚手架不如结构信息；
• 金标原语收益最大。

排成一行：自生成原语（−11.54~+1.64）< 教师 Plan（+3.29~+9.89）< 教师原语（+12.09~+16.48）< 金标原语（+17.58~+29.67）。驱动拯救效应的是结构信息本身，不是任务分解、不是程序性脚手架、不是多给了 token。

诊断发现三：独立 Discovery 是主导瓶颈

Digestion 普遍远高于 Discovery：

• Qwen3.6-27B：24.73 → 92.31（差 +67.58pp，全表最大不对称）；
• R1-Distill-32B：6.04 → 65.38。

呈现强烈的「回溯识别强、前瞻发现弱」不对称：答案摊在面前能认出关键结构，空手面对问题时找不到。

失败分解显示 83.6% 的生成失败落在 D−（未发现原语）象限，其中相当一部分是 D−E+ 型：发现受限、但执行能力在潜伏——把原语递过去就能做对。这就是标题里那个 missing primitive 的实证形态。

可修复性分析：为什么不是随便微调一下

论文用 709 道数学博士资格考试证明题做后训练沙盒（骨干 Qwen3.5-27B/9B/4B）：

• 题源：1991–2026 年真题，俄勒冈大学 332 / 威斯康星麦迪逊 131 / 哈佛 126 / UC 伯克利 120；
• 学科分布：代数 318 / 分析 206 / 拓扑 97 / 几何 82 / 数论 5 / 逻辑 1；
• 每题配人工证明（中位长度 118 词）+ GPT-5.4-High 抽取的一句原语。

294 个 Discovery 失败案例里，SFT / OPSD 对 D−E+ 型的修复率为 20.4% / 21.1%，约为对 D−E− 型（6.8% / 8.2%）的 3 倍——发现受限型失败最可修复，病灶和药是匹配的。

但两个基线的净增益都有限，因为已会题目出现回退（9B 上 SFT 使 Generation −6.04、OPSD −4.95）：把整份参考解灌给学生，学生要在已有能力上被迫重新对齐，学会的题反而忘了。

诊断至此收束为一个设计问题：如何只转移「缺失的结构信息」，不动学生已经会的东西？

ABSORB 机制一：原语作为特权信息，而非预测目标

ABSORB 是 OPSD 的新变体：教师与学生同源于同一基模型，学生在线生成自己的推理轨迹，教师沿该轨迹逐步提供 token 级监督。

教师条件化为 π_T(·|ŷ_<t, x, p)——额外看到原语 p，学生只看问题 x。这个不对称设计直接来自诊断结论：

• 显式监督「学生成原语」向解题主干的迁移极差（primitive SFT 使 Generation 从 38.46 跌到 28.02、Discovery 跌到 2.75——学输出原语这个动作本身和学解题是两件事）；
• 原语只要在训练时隐式引导教师的监督信号即可生效。

相比完整参考证明，原语提供更靶向的监督：只补缺失的结构洞察，不规定学生已能执行的步骤；推理时学生无需原语，收益照常兑现。

ABSORB 机制二：有界覆写（Bounded Override）

两条设计原则：

1. 教师对学生某选择的偏好提升（正向引导）反映原语贡献的真实信息，应全额传递；
2. 教师强压制学生偏好选择的压力应有上界——大的分歧可能源于学生不可见的特权上下文，而非学生可自行认识到的错误。

把这种「教师特权捷径」无界地灌给学生，就会复现 naive OPSD 的回退。实现为教师 top-K 支撑集 S_t 上重归一化的反向 KL + 单侧钳制：

L_ABSORB = (1/T) Σ_t Σ_{v∈S_t} min( π̄_S(v)·log(π̄_S(v)/π̄_T(v)), τ )

钳制作用在 log-ratio 层面（阈值 τ）：保留正向引导、限制对学生偏好选择的过度抑制。

刻意不做整 token 的保留/丢弃二元决策——消融证明基于分歧幅值或学生熵的整 token 掩码都无法区分有益与有害干预。反向 KL 的 mode-seeking 特性在此被定向使用：只在教师确信的支撑上把学生分布收拢过去，且收拢幅度有顶。

训练配置

全部基线共用、单变量替换：

• K=128（top-K 支撑）、τ=0.06；
• LoRA rank 64 / α=128、AdamW 无权重衰减、lr 5×10⁻⁶ 线性调度无预热、梯度裁剪 0.1；
• 有效批 32、bf16、1 epoch（22–23 步）；
• 学生 rollout 温度 1.0 / top-p 0.95 / top-k 20 / 最多 4096 token、上下文 6144；
• vLLM 同步、seed 42、单卡 NVIDIA RTX 6000 Ada。

OPSD 基线用完全相同配方，仅教师特权从原语换成参考解——对照的干净程度值得一提，所有差异都可以归因到那一个变量。

五、评估指标与实验证据

指标体系

主结果一：规模外推（Qwen3.5 骨干，表 4）

三个规模上 Generation 全部正向，外推基准（HMMT25、Omni-MATH）同步上涨——提升不只在 PRIM 内部兑现，不是对评估集的过拟合。

注意一个细节：27B 上 Discovery 反而 −0.55，但 Generation +1.10、HLE Math +3.93——收益集中在无辅助推理本身，而不是让模型学会多输出一句原语。这正是「隐式内化」设计想要的形态。

主结果二：方法横评（9B 骨干，同数据同配方）

这张表是全文的胜负手。注意三行「单变量失败」：

• 特权信息相同（TOP-D 行，同为原语特权，换策略梯度转移）→ 失败；
• 转移机制相同（OPSD 行，同为 rKL 蒸馏，特权换参考解）→ 失败；
• 监督目标相同（SFT 行，同为参考解监督，换最大似然）→ 失败。

只有「原语特权 + 有界覆写转移 + 学生留在解题空间」的组合翻正。三个成分的必要性由消融逐一定位：

消融一：特权来源（表 13）

同为 ABSORB 目标，教师看完整参考解 33.52（−4.95）vs 看原语 43.96（+5.49）。

差出一个「回退 vs 显著提升」的量级——收益不来自「有特权」本身，而来自原语的靶向性。参考解里 95% 的内容是学生已会的执行步骤，强行对齐它们就是负资产；原语只含学生缺的那一句结构。

消融二：转移机制（表 14）

唯一超基线的机制。非对称与钳制缺一不可：

• 去掉钳制，教师的特权捷径无界泄漏（−6.59）；
• 换成 fKL，正向引导被教师分布的长尾稀释（36.81，仍低于基线）；
• 换成离散掩码（分歧幅值 / 熵），无法区分「该压制的错误」和「不该触碰的教师特权分歧」。

消融三：Rollout 目标（表 15）

让学生直接生成原语的三种变体（rKL 无钳 / fKL 钳 / rKL 钳）最高仅 39.01（+0.55），远差于学生留在解题空间、原语只给教师的 43.96（+5.49）。

学生不应该换角色——训练中让模型一会儿当「原语生成器」一会儿当「解题器」，两个目标互相干扰，与 primitive SFT 的灾难性结果互为印证。

失败象限修复率（ABSORB，表 11）

与可修复性分析的预测方向一致：发现受限型最受益；可消化失败比不可消化失败的拯救率高出 17.6–28.6pp。

六、效果优势的根源解释：一条机制因果链

把诊断、设计、消融串起来，ABSORB 的优势可以讲成一条完整的因果链。

第一环：打在瓶颈上

诊断表明 83.6% 的失败源于 D−，其中 D−E+ 型对后训练的修复率约为 D−E− 型的 3 倍——「执行能力已在、只差结构发现」的失败最可修复。ABSORB 的特权信号恰好就是这块缺失的结构信息。监督信号与病灶的对齐度，决定了同样训练预算下的收益上限。

第二环：特权信息的靶向性

原语只含缺失的结构洞察、不含学生已会的执行步骤，监督信噪比天然高于整份参考解。

OPSD 的失败反证了这一点：同样的机制、同样的配方，特权换成参考解就从 +5.49 翻到 −4.95——强制学生在已有能力上重对齐，净效果是遗忘。蒸馏收益是「教师额外信息量 × 学生未掌握程度」的函数，不是「教师看了多少东西」的函数。

第三环：隐式内化优于显式预测

结构理解与逐步生成之间存在目标错配：直接学「输出原语」（primitive SFT −10.44）灾难性失败，说明「会说出洞察」和「会用洞察解题」在模型内部是两种不同的计算。

ABSORB 让原语只作为教师上下文、隐式塑造学生自己解题轨迹上的监督信号——推理时无原语也能兑现收益。27B 上 Gen +1.10 而 Discovery −0.55 是最干净的证据：模型没有被训练成「先说原语再解题」的流程机器，而是把结构洞察溶解进了无条件推理本身。

第四环：有界覆写防止特权泄漏

教师压制学生偏好的那部分压力，可能来自学生不可见的特权上下文（「因为原语说了 X 所以别走 Y」——而学生空手面对时本不该知道 X）。

无界转移（rKL 无钳 −6.59）把这类不可迁移的捷径决策灌给学生，破坏已会题；单侧钳制保住正向引导（教师确信区域的全额提升）、限制负向抑制，避开了离散掩码无法区分有益/有害干预的缺陷。

同期 TRACE、Switch Distillation 从不同角度收敛到同一结论——教师监督的可信区域选择，是 on-policy 蒸馏成败的隐藏变量——但 ABSORB 的连续钳制比 token 级路由更保守，也更不易引入离散切换噪声。

第五环（底座）：测量可信

judge-human 一致率 95.5%（κ=0.91）、答案泄漏审计、替代路线低估率仅 ~1%——诊断结论建立在可信的测量上，后续所有设计决策的依据才成立。

论文自己展望的三条延伸：诊断框架推广到理论物理、计算化学等结构严谨领域；数学 agent 设计中显式分离「结构搜索」与「过程执行」以分配推理时算力；原语与 Lean 等形式化验证系统结合。

七、必要知识反推：读懂本文需要哪些前置知识

• CoT 与数学评估协议：知道 GSM8K/MATH 线的「最终答案 exact match」评分方式，以及 pass@k 的含义，才能理解「解耦测量」要解耦的是什么。
• 知识蒸馏基础：forward KL（mass-covering）与 reverse KL（mode-seeking）的行为差异；为什么 on-policy 蒸馏要沿学生自己的 rollout 施加 rKL。理解 rKL 的模式寻求特性，才能理解「只在教师确信支撑上收拢学生分布」在做什么。
• Privileged information / LUPI：训练时可得、推理时不可得的额外信息这一概念，以及「教师带特权、学生不带」的非对称结构。OPSD 一族（如 arXiv:2602.04942 的 π-Distill/OPSD）是直接前置。
• HLE 与竞赛数学难度谱系：知道 Humanity’s Last Exam 处在难度谱哪一端、博士资格考试题的定位，才能掂量 182 题、709 题这些规模的分量。
• 拓扑学基础例子：亏格、同胚这类本科拓扑概念，只用于理解「马克杯与甜甜圈」这个原语直觉例子，不构成阅读障碍。
• LoRA 与轻量后训练：rank 64 / 1 epoch / 22 步这类配置意味着改动是局部的、基座能力大概率被保留——这为「为什么 ABSORB 不毁掉已有能力」提供了训练层面的直觉。

八、通用性灵感：能搬走的三个想法

一：「结构信息 vs 执行能力」的解耦诊断范式

四维度协议（裸做 / 给结构 / 给完整答案后回提 / 给结构后做）本质上是把「会做 X」拆成「发现 X 的关键结构」与「执行 X 的过程」，再用交叉对照定位瓶颈。

这个范式可以直接搬走到很多领域：

• 代码评审：发现架构意图 vs 逐行审查——「看得出这段代码在防什么」和「查得出这行少了空指针检查」是两种能力；
• 科研辅助：发现实验设计的对照结构 vs 执行统计检验；
• 医学诊断：识别病理模式 vs 执行鉴别流程；
• 法律分析：找到争点的法律关系结构 vs 检索论证先例。

任何「答案对错」掩盖能力结构的领域，都值得问一句：这里的原语是什么？模型的失败落在 D− 还是 E−？

顺带地，「回溯识别远强于前瞻发现」的不对称（Digestion ≫ Discovery）可能是一种普遍现象——模型认得出好答案，却造不出好答案——值得在创作类任务上重做这套测量。

二：有界覆写蒸馏

「正向引导全额传递、负向抑制封顶」的非对称转移原则，适用于一切教师带特权信息的蒸馏场景：

• 教师见过 ground truth 的 RLVR 训练；
• 教师带了工具调用轨迹的 agent 蒸馏；
• 教师看了测试分布的领域适配。

核心洞见是教师对学生的每次否定都要打折——因为你无法区分「学生真的错了」和「学生只是没看到我看到的东西」。

实现上，在 log-ratio 层面连续钳制（而非 token 级离散路由）是一个工程上非常轻的改动，几乎可以叠加到任何现有 rKL 蒸馏管线上。钳制阈值 τ 是一个新的超参，论文用 0.06、K=128 的组合在三个规模上均有效，鲁棒性看起来不错。

三：诊断驱动的修复顺序

「先构建解耦测量 → 定位主导失败模式 → 验证失败模式的可修复性 → 再设计干预」的流程，是对「直接上 RL/SFT 赌一个提升」的方法论反动。

可修复性分析（在失败案例上先跑便宜的后训练探针、按象限统计修复率）尤其值得抄袭：它用极低成本告诉你「这块瓶颈值不值得投入」，避免在 D−E− 型（执行和发现都缺）的失败上浪费算力。

对做模型改进的团队，这个「先测量、后动手、消融归因」的闭环，比 ABSORB 本身更可复用。

结语

这篇论文最漂亮的动作，是给「会做数学」装上了第一台解耦测量仪，然后让测量结果指挥修复。

它证明了两件事：

1. LLM 数学推理的主要瓶颈不是执行而是结构发现——83.6% 的失败、潜伏的执行能力、金标原语 +17.58~+29.67pp 的拯救效应，三个证据互相咬合；
2. 补这块短板的正确方式不是把答案喂给模型背，而是让一句只描述「这道题为什么可解」的原语，在教师手里悄悄地塑造学生自己的推理路径——学生自始至终不知道原语的存在，却在推理时兑现了它的全部价值。

The Missing Primitive 缺的不是 primitive 的定义，而是让模型自己找到它的那条路——现在，至少我们知道路被堵在哪一段了。