Phantom Gains: Auditing Self-Improvement Against a Measured Null 精读
深度精读 Phantom Gains——一篇审计 LLM 自训练’自我改进’证据的测量学论文。当社区从平均准确率转向逐题增益/损失转移分析时,转移统计本质上是两个噪声估计的差分,极易产生’幻影增益’。作者让一个冻结控制模型穿过与三轮 LoRA 自训练完全相同的流水线,识别出七类测量失效——每一类在缺少控制时都会反转结论:单次贪心解码的批处理伪影在未训练模型上制造能力变化、expansion 统计给冻结模型分配 0.28 的假获取率、阈值修复后的 null 依然非零。替代方案(逐问题精确检验 + 合并基线池 + FDR 控制)在任何 held-out 副本上检测不到任何真实转移。梯队实验进一步揭示:外部蒸馏能改善 base 模型未触及的问题而三种自训练不能,回归分析以 p<10⁻⁸ 拒绝该不对称性是总体增益差异的副产物。本文为转移级审计立下规矩:每个报告的统计量都需要单独测量的 null。