推理

同日三篇论文各自修复了 LLM 训练信号的一处失真：KAIST+DeepAuto.ai 的 EAPO 发现正负反馈下 token 熵的信息量不对称——正优势应强化高熵的「惊人成功」、负优势应纠正低熵的「重复失败」，符号-熵耦合重分配使 Qwen3-4B 六基准平均 31.0%（超最强基线 5.6pp，AIME24 20.2 vs GRPO 12.5）；NTU+耶鲁+曼彻斯特的 DN-MOPD（当日 Hugging Face 日榜 up=111 第一）发现等权多教师蒸馏中 IF 域反馈离散度是池化信号 2.3–4.4 倍、占联合梯度 94% 而淹没数学信号，批内测离散度+有界乘子重缩放即恢复各域均衡（8K 下 +2.47~+3.08）；清华+MIT+NVIDIA 的 d-OPD 识别出 AR→块扩散蒸馏的目标条件失配——教师只看因果前缀而学生看得见未来，Bayes 未来重加权把 token 级 KL 从 0.4444 降到 0.1249，8B 平均 59.8 vs 55.9。三者共同示范了「先诊断信号失真、再做最小修正」的方法论。

本精读合并解读两篇直指「统一多模态模型」根本问题的论文：腾讯 + CASIA + UCAS 的 Encoder-Free Scaling Laws 用两条架构共享同一 11 级稀疏 MoE 解码器阶梯（1.1B–44B 总参）与同数据同优化设置的受控对比，首次给出 encoder-free 与 encoder-based MLLM 的双向 scaling law——文本目标两架构前沿几乎重叠（γ 0.0973 vs 0.0979），多模态目标 encoder-free 当前更差但下降更快（γ 0.3778 vs 0.2998），外推交叉点 6.1×10²¹ FLOPs（比旗舰模型预训练算力低约三个数量级），分主题 STEM 最早追平、OCR/Caption 最晚，配注意力质量（0.217→0.645）+ 表征余弦 + 专家路由三层机制探针解释「视觉 token 先慢后骤降」的学习动力学；NTU + 上海交大 + 东京大学的 UMM-Reflection 则是首个对统一模型完整多轮反思轨迹做 RL 的工作——共享根采样（K=16 兄弟轨迹共用一张 detach 初始图，组优势只比反思策略不比首抽运气）+ 整轨迹单一优势同时更新文本头与流头，GenEval 从 0.71 升至 0.84（超 SFT +12.05 点）、条件修复率 20.59%→64.94% 翻三倍，换指令实验（48.4% vs 20.5%）与线性探针（AUC 0.804→0.815 几乎不动、失败图落入 pass 区 34%→62%）证明 RL 是在骨干已有修复分布中「选对的切片」而非创造新能力。一篇回答预训练的结构问题（要不要视觉编码器），一篇回答后训练的能力问题（会不会自我反思），合成统一模型路线的完整纵切面。

本精读合并解读两篇重构 Transformer 核心算子的论文：HKUST(GZ)×BAAI×巴黎西岱的 MassAlloc Attention（MALA）把稀疏注意力改写为「分布条件化的运行时计算分配」——保留全部 QK 打分，用 online-softmax 演化归一化因子做逐 tile 贡献比测试，跳过低贡献 tile 的 post-score 计算，同一容差 τ=1 统一前向/反向/prefill/解码，训练 FLOPs -23.1% 而 PPL 无损、关联回忆 89.67% 贴近 FullAttn（NSA 仅 22.61%）；Meta AI 巴黎×Inria 的 DaRoPE（ICLR 2027）诊断出 RoPE 慢频带这一具体弱点，快带保序、慢带换成 sigmoid 有界的逐头内容坐标，外推免配置，K=256 键值回忆 30.5% vs 其他方法 ≤7.25%。二者共享同一哲学：不做一刀切裁剪，让算子自己知道「哪里重要」。

本精读合并解读两篇在「轨迹还没走完」时提供质量信号的长程编码 Agent 论文：Salesforce AI Research 的 Opera 构建口头评论家框架——把每次修正管理为持久化笔记（混合调度五事件触发审查 + 九个契约化类型算子诊断 + 准入/发布双审计把关投递与关闭，并把「遵从」与「解决」分开跟踪），在 Terminal-Bench 2.1 / SWE-Bench Pro / DeepSWE v1.1 三基准上把 Qwen3.8-27B 的 resolve rate 提升 7.9/4.0/8.9pp，去掉双审计后增益损失 2/3，证明误导性反馈的代价之高；UW 等机构的 CER 则在 rollout 结束前从 40 步前缀预测终端奖励——用检索经验库合成任务自适应 rubric、同父兄弟续跑组内共享打分（组内序保持即足以支撑排名类下游），TTS 上 Nemotron 3 Ultra RM@8 达 67.6%（+4.2pp）且只用 15.3% token 匹配最佳基线（省 84.7%），RL 上 40 步截断 + 弃权门控 DPPO 以 52.7% 更少在线 token 超过全轨迹 TMax（51.6% vs 49.7%）。一个向内诊断当前轨迹，一个向前预测最终结局，合看构成测试时监督的两条互补路径。

本文合并精读 2026 年 9 月下旬三篇聚焦「训练时机制创新」的论文：上交+字节 Seed 的 PISA 把块稀疏注意力的选择阶段压到 O(N log N) 并用 LSE 打分提升选块质量；马里兰+Capital One 的 ConfSFT 只监督置信度、不监督长度，就让四家族模型推理 token 下降 10%~19%；北大+深大+腾讯的 SLCA-GRPO 识别并结构性消除工具调用 RL 中的跨段信用错配，7B/8B 上 τ2-Bench 分别提升 9.15/10.03 个百分点。每篇覆盖背景、关联工作、问题、解法、实验证据、优势根源（含外部交叉验证）、知识反推与通用灵感九部分，最后合并讨论「选择、停止与信用分配」这一共同主题。

当 LLM 已经能证明定理，真正的瓶颈变成「哪些定理值得提出」。FAIR@Meta 联合 NYU 与巴黎综合理工的这篇论文给出了一个不依赖人类判断的答案：把定理的有趣度定义为证明代价与陈述描述长度之比。他们训练了一个 27B 难度预测器（比 GPT-5.5 与 Claude Opus 4.6 都准），用有趣度作奖励把 conjecturer 的平均有趣度提升 4.3 倍、与 mathlib 的重合率从 91.9% 压到 30.6%，并用推理期剪枝驱动一个自扩展定理库。本精读覆盖其方法拆解、关键实验、机制根源分析与可迁移灵感。

2026云栖大会云网络专场（9月24日）年度发布梳理：当AI相关流量超过公网流量一半，网络从"尽力而为的管道"重新变成确定性交付的稀缺品。本文从尾延时与推理性价比、用通信换计算、推理下沉边缘、Agent成为网络新主体、数据语言统一五条机制链，拆解英特尔、阿里云、网易互娱、小鹏汽车、Maxinsights、Megaport六方的一线说法，并给出可迁移的判断框架。

本篇合并精读两篇关于「统一智能体」的论文，二者分别从空间域与推理结构两个维度回答同一个问题：能否用一个模型替代一堆专用模型而不掉点？Apple 的 MintAct 用 2B/4B/8B 单一 VLM 统一 UI grounding、移动/桌面/网页/VTU 四域导航与视觉工具调用，靠四阶段训练（高分辨单步 SFT→低分辨多步均衡 SFT→每域 RL 专家拒绝采样蒸馏→联合异步 RL）与异步四机制（配额、背压、双裁剪、截断 IS）在 OSWorld-Verified 上以 48.9 同尺寸登顶。TTIC 的《Recursive Language Models Generalize Out of Domain》则从理论（MDL）与受控实验证明：递归模型用「隔离上下文栈」让 CoT 在分布内占到的「看得全」的便宜，在分布外变成致命捷径——mod-10 长度泛化上 RM 95.7% 对 CoT 6.2%。两文共同揭示：统一的代价不在模型容量，而在如何控制「每个子任务看到什么」。

多 LLM 协作系统里模型之间只能’说话’（生成文本）——高维内部表征被压缩成一维 token 串再被对方解码，既丢语义又付逐 token 解码延迟。清华牵头、五机构合作的 C2C（ICLR 2026）给出替代范式：用小神经网络把 Sharer 模型的 KV-Cache 投影融合进 Receiver 模型，可学习门控逐层决定注入。四个基准上 C2C 比单模型平均高 6.4-14.2%，比文本协作高 3.1-5.4% 且平均 2.5 倍加速。本精读拆解其 oracle 实验→fuser 设计→消融全链路，并对照 DroidSpeak、Skeleton-of-Thought 等工作交叉验证’绕过文本’路线的边界。

测试时推理的现有范式要么给模型套外部推理程序（CoT/Plan-and-Solve），要么暴力扩展搜索（Self-Consistency/MCTS）——控制信号都是外生的。NTU 提出 State of Thought（SoT）：从模型内部信息传递提取紧凑动力学-几何状态，582 参数控制器在冻结 backbone 上按当前推理状态选择性激活历史推理支持——推理变成’证据上的状态条件化过程’。16 数据集×3 LLM：量化/通用/符号代码/长上下文推理平均提升 1.34×/1.62×/1.76×/2.51×，同时 token −62.6%、延迟 −44.6%；training-free 与 embedding-only 设定下仍保留 38.2%/36.5% 增益，证明内生状态信号真实存在且可低成本利用。