EFRE 与 InfiLoop 精读：循环中的持续学习二重奏

论文一：From a Prompt to Repertoires: Evolving Functional REpertoires Enable LLM Continual Learning（arXiv:2610.11373） 发表时间：2026年10月 机构：香港中文大学（深圳）（通讯作者所在）、上海人工智能实验室、中国科学技术大学、新泽西理工学院（NJIT）、独立研究者。以高校合作为主，上海 AI 实验室作为研究机构参与；无企业合著 领域标签：LLM 持续学习 / Prompt 优化 / 非参数学习

论文二：Scaling to Tens of Thousands of Test-Time Iterations with Loop-Native Attention Residuals（arXiv:2610.11570） 代码仓库：github.com/pixeli99/InfiLoop 发表时间：2026年10月 机构：香港理工大学、中科院深圳先进技术研究院、鹏城实验室、中国科学院大学、ELLIS 图宾根研究所 / 马普所智能系统研究所 / 图宾根 AI 中心、深圳理工大学。跨国高校与研究机构合作，无企业参与 领域标签：循环 Transformer / 测试时计算 / 推理架构

为什么把这两篇论文放在一起读？因为它们是同一枚硬币的两面。EFRE 研究"冻结参数的 LLM 如何在外部文本状态上持续学习"，InfiLoop 研究"循环 Transformer 的内部状态如何在数万次迭代中不被噪声覆盖"。前者管的是任务之间的循环（学新任务不忘旧任务），后者管的是推理之中的循环（深循环不毁掉已完成的推理）。两者共同指向 2026 年 AI 研究的一个核心母题：当计算以循环的形式展开，如何让"更新"不变成"覆盖"。

一、论文背景

1.1 共同的大背景：循环即学习，覆盖即灾难

要理解这两篇论文，先要接受一个正在成型的范式：循环就是学习。

传统深度学习的训练是一次性的——数据过完、梯度更新完、模型定型。但 2025-2026 年涌现的新范式是"循环式"的：测试时反复执行同一个模块（test-time compute）、部署后随任务流持续适应（continual learning / 自进化 Agent）。循环带来了两个先前不那么突出的难题：

难题一：学新忘旧（灾难性遗忘）。 神经网络学习新任务时倾向于覆盖旧知识。类比：一个高中生学数学时把语文全忘了，学英语时把数学丢了。参数更新类的持续学习方法（回放、正则化、参数隔离、LoRA、GRPO 式强化学习）都试图在参数空间里缓解这个问题，但训练开销大。

难题二：深循环反噬（越算越差）。 让模型在测试时想得"更深"，本来应该更聪明，实际却常常更糟。类比：反复修改一篇已经写好的文章，每改一轮都引入新的错别字——改到最后反而不如初稿。这不是算力不够，而是更新机制有问题。

两篇论文分别直面这两个难题。

1.2 EFRE 的背景：prompt 优化很强，但它不会"持续"

Prompt 优化是什么？不改动模型参数，只优化喂给模型的指令文本（prompt），靠任务反馈反复改写指令来提升效果。类比：模型是个能力很强但不了解你业务的新员工，参数训练相当于给他做脑部手术，prompt 优化相当于给他写一份越来越好的岗位操作手册——显然后者便宜得多。

2025-2026 年，GEPA（反思式 prompt 演化）、ACE（上下文 playbook 积累）等 prompt 优化方法已在知识密集与推理任务上追平甚至超过了 GRPO 这类强化学习方法。这引出一个自然的问题：既然 prompt 优化这么强，能直接拿来做持续学习吗？

EFRE 论文的分析给出了否定答案：在序列多任务设定下，单一 prompt 被反复重写会产生两个问题——(1) 新指令覆盖支撑旧能力的指令（文本世界的灾难性遗忘）；(2) prompt 里不断堆积针对局部案例的细则（“上一题报告两位小数"这种），而非可泛化的原理。论文作者此前的相关工作与 Harrington et al. (2026) 的研究都佐证了这一点。

1.3 InfiLoop 的背景：carry-last 是深循环的瓶颈

**循环 Transformer（Looped Transformer）**是什么？把同一个 Transformer 模块反复执行多次，每次循环增加计算深度但不增加参数。测试时多跑几圈，模型就能"想得更深”。类比：不扩建工厂（加参数），而是让同一条生产线多跑几班（加循环）——用时间换能力。

这类模型连接相邻循环的默认方式叫 carry-last：上一次循环的输出直接成为下一次循环的输入，状态被完全替换。问题在于：更新的输出不一定是更好的输出。一次含噪的迭代可以覆盖前面已经正确的推理，甚至撤销已经完成的解。深网络还有所谓"深度诅咒"（contribution of deeper layers progressively diminishes），循环叠加权重共享后会放大这个问题。

已有的补救手段（衰减、层缩放、不动点阻尼，如 FPRM）都在控制"每次更新多强"，但保留了一个未被动摇的架构选择：下一轮循环只能看到最新状态。InfiLoop 要改的正是这一条。

二、论文定位和关联工作

2.1 EFRE 所在的谱系：非参数持续学习

特别值得注意的是 GEPA：它是 EFRE 最重要的对照系（prompt 优化的 SOTA），也是被 EFRE 揭示局限最狠的对象——GEPA 在 Bio 阶段后的稳定性是 -11.82pp，说明它的新任务增益是以牺牲旧任务为代价的。ACE 累积上下文 playbook，与 EFRE 的"功能库"形似，但 ACE 没有"更新不得损害历史能力"的门控，也没有把不兼容更新路由到其他功能的机制。

EFRE 的定位结论：它是 prompt 优化与持续学习之间的第一座系统化桥梁——把"优化一个 prompt"重构为"演化一个带历史约束的功能库"。

2.2 InfiLoop 所在的谱系：深循环稳定化

InfiLoop 的定位结论：它把 Attention Residuals 从"层间"搬到"循环步间"，并配上可学习时间衰减，使得"选择保留哪些历史计算"这件事本身变成可学习的，且代价只有每轴 d+1 个参数。

2.3 两篇论文的互为镜像

三、问题定义

3.1 EFRE：冻结 LLM 的非参数持续学习

具体问题：预训练模型 Φ 参数固定，任务一个接一个到来（ToolUse → FinQA → SciKE-Bio），每个任务只提供训练批与验证集；如何只更新外部文本状态 S_t（prompt、技能等），使得新任务学得好、旧任务不掉分？

形式化：状态更新 S_t = U(S_{t-1}, D_train,t)。定义评估函数 R(S; D_eval)。两个经典度量：

• 可塑性 J_plas(t) = R(S_t; D_eval,t) − R(S_{t-1}; D_eval,t)：当前任务涨了多少分
• 稳定性 J_stab(t)：先前所有任务分数变化的均值：负数=遗忘，零=不变，正数=有益回溯

目标：max 可塑性，且稳定性接近零（不遗忘）。

核心洞察（深层结构相似性）：持续学习的"稳定性-可塑性权衡"本质上是更新的接受准则问题。参数持续学习用正则化/回放在参数空间约束更新；EFRE 发现文本状态空间可以用一个极其简单的标量门来约束——新候选不仅要当前更好，还必须在历史样本上保持至少 (1−ε) 的分数。这个门把"单个 prompt 的覆写式更新"变成了"功能库的演化问题"。

精妙之处：约束不是"不许变"（ε=0 会扼杀可塑性），而是"最多降 10%"——给兼容的更新留出路，给不兼容的更新改道（路由到其它功能或涌现新功能）。遗忘问题从"如何记住"变成了"不兼容的信息往哪放"。

3.2 InfiLoop：循环状态的防覆盖聚合

具体问题：循环 Transformer 的第 t 轮候选 z_t 不一定比已积累的推理状态更好，carry-last 却无条件全额接受它；如何在任意长的循环中保留并选择历史计算？

形式化：定义跨循环步的状态聚合：

h_t = Σ α_{t,i} z_i，其中 α_{t,i} = exp(s_i − λ(t−i)) / Σ_j exp(s_j − λ(t−j))

• 内容分 s_i = q^T RMSNorm(z_i)：共享伪查询 q 给每个候选打一次分（产出时）
• 时间偏置 −λ(t−i)：越老的候选权重衰减越多（指数衰减）

约束：(1) 精确性——不能近似；(2) 常数内存——内存不能随循环数 T 增长（否则 2 万步不可行）；(3) 不放大范数——聚合不能让状态爆炸。

精妙之处：共享打分器 + 指数衰减这两个设计不是随便选的，它们恰好使聚合 admits 精确流式递归：

N_t = βN_{t-1} + e_t·z_t，D_t = βD_{t-1} + e_t（其中 e_t = exp(s_t)，β = e^{−λ}）

即只需维护一个加权状态向量 N 和归一化标量 D，内存 O(d) 与循环数无关。且等价变形后：

h_t = h_{t-1} + γ_t(z_t − h_{t-1})，γ_t = e_t / (βD_{t-1} + e_t) ∈ (0,1)

这就是一个自适应步长的残差更新：候选分高 → γ→1 → 接受新候选；候选分低 → γ→0 → 保持原状态。由于注意力权重非负且和为 1，h_t 始终在候选的凸包内，范数不放大。

类比：carry-last 像"每轮全盘重写草稿"；InfiLoop 像"维护一份加权合并稿——写得好的一段进正稿权重高，写得差的被压低，老内容随时间缓慢淡出"。

四、问题解法

4.1 EFRE：带历史一致性门的功能库演化

EFRE 的解法可以拆成三个组件：功能与功能库的定义、演化规则（精炼/复用/涌现三分支）、推理时路由。

组件一：功能与功能库

• 一个"功能" f_k 就是一段优化过的 prompt，编码一项已学会的能力（如"数值提取-列式-验算"）
• 功能库 F_t = {f_1, …, f_K}，上限 50 个功能
• 每个功能维护自己的历史 D_history,k：最近 H=20 条被成功吸收的样本
• 关键设计：功能不与任务预先绑定——一个功能可服务多个任务，一个任务可用多个功能

组件二：演化规则（核心算法，对应论文 Algorithm 2）

每个训练批 B 到来时，从最近被接受的分支出发：

1. 候选生成：冻结 LLM 用当前功能 f_k 跑 B 得到反馈 Q_k，精炼模型生成候选 f’_k
2. 当前任务双提升门：候选必须在训练批和验证集上都超过原功能（R(f’;B) > R(f;B) 且 R(f’;V) > R(f;V)），否则直接丢弃、连其它功能都不搜
3. 历史一致性门：R(f’_k; D_history,k) ≥ (1−ε)·R(f_k; D_history,k)，ε=0.1 即最多容忍历史分掉 10%。通过 → 精炼（原地替换，吸收的样本追加进历史）
4. 不通过 → 复用搜索：按存储序遍历其它功能，对每个 f_j 重新生成自己的候选 f’_j，第一个同时满足"双提升 + f_j 自己的历史一致性"的候选胜出，只改那个功能，原分支不动
5. 全都失败 → 功能涌现：精炼模型拿着这批数据和前面失败尝试的反馈，初始化一个全新功能；它必须比更新前的当前 prompt 在训练+验证上都更好才能入库；历史初始化为它成功处理的样本
6. 库满 50 且无处安放 → 丢弃本次更新

组件三：推理时路由

推理时一个文本选择器 σ（固定指令的 LLM）读取输入和所有功能 prompt，选出 k(x)，冻结 LLM 在该功能下生成答案。不需要任务标签。选择器自身指令在持续学习过程中不重写。

全景对照表：

4.2 InfiLoop：循环原生的注意力残差

InfiLoop 的解法拆成四层：聚合定义、流式递归、自适应步长解释、双轴部署。

第一层：聚合公式（见第三节形式化）。每个 token 位置独立做聚合；候选产出时被共享伪查询 q 打一次分，之后不再重算；指数衰减让老候选缓慢淡出。λ=0 时退化为循环版 Full Attention Residuals。

第二层：精确流式递归。直接算求和需要存全部历史（O(Td) 内存）；共享打分 + 指数衰减让历史分数不变、权重每步乘同一因子 β，于是 N、D 可以增量更新。这一步是"2 万步可行"的工程前提：持久聚合内存恒为每 token O(d)。对照：Full Attention Residuals 需 O(td) 内存与计算。

第三层：自适应残差更新的解释。h_t = h_{t-1} + γ_t(z_t − h_{t-1})。γ_t 是"新候选内容权重 vs 衰减后历史质量"的比值：

• e_t ≫ βD_{t-1}：新候选显著高分 → 步长趋近 1 → 接受
• e_t ≪ βD_{t-1}：候选低分 → 步长趋近 0 → 压低
• 凸包性质：||h_t|| ≤ max||z_i||，聚合不放大范数

第四层：双轴部署。嵌套循环推理器（TRM 类）有内循环（候选精炼）和外循环（上下文更新）两条循环轴，InfiLoop 给每条轴各配一套 (q, β) 与累加器 (N, D)，每轴只增加 d+1 个参数。实验证明双轴同时启用显著优于单轴。

训练细节：在公共 TRM 代码库上实现，沿用深度监督（deep supervision）训练程序。Sudoku-Extreme 上 1,000 基础题 × 1,000 增广 ≈ 100 万训练样本，AdamW，批大小 768。

五、评估指标与实验证据

5.1 EFRE 的实验体系

指标体系：

• 主指标：三任务序列最终平均分（Final Avg.）
• 机制指标：可塑性 J_plas / 稳定性 J_stab（百分点，越高越好；稳定性负值=遗忘）
• 单任务指标：四个独立基准的无权重平均
• 机制分析指标：跨任务复用率、共享功能数、功能库规模
• 成本指标：GPU 时、API 输出 token、墙钟时间

数据集：持续学习序列 ToolUse（工具选择与参数构造，源自 ToolAlpaca 3,938 实例/400+ API）→ FinQA（财报数值推理）→ SciKE-Bio（生物多选，源自 SciKnowEval）；单任务 HotpotQA（多跳问答）、IFBench（可验证指令遵循）、AIME-2025（竞赛数学）、LiveBench-Math；Agent 持续学习用 Continual Learning Bench 六个有状态环境。这个序列设计的好处：三个任务领域差异大（工具/金融/生物），任何"藏在分布里"的取巧都难以奏效；每阶段后回测所有旧任务，遗忘无处遁形。

核心结果表（Qwen3-8B backbone）：

EFRE† 比 GRPO 高 7.50pp；学完 Bio 后 FinQA 只掉 1.56pp（GEPA 掉 25.10pp、ACE 掉 9.43pp）。换 GPT-5.6-Luna backbone，EFRE† 68.96 vs GEPA 55.28、ACE 53.54。

这个实验设计如何证明论点：论点是"历史一致性门 + 功能分库能兼得可塑性与稳定性"。证明路径：(1) 与 GRPO 比 → 可塑性接近（Bio 阶段 +19.52 vs +20.58）而稳定性天差地别（-0.31 vs -8.32），说明不是靠少学换来的不忘；(2) 与 GEPA/ACE 比 → 同为文本状态优化，加了门就不再遗忘，隔离了机制变量；(3) 消融直接打门本身——ε=0（严格不许变）可塑性掉到 +11.46，ε=1（无历史约束）稳定性掉到 -2.57，ε=0.1 恰好两头最优，证明"适度容忍"是必要设计而非随意超参。

单任务与 Agent 结果：单任务聚合 EFRE 49.04 / EFRE† 51.26，超 GEPA 46.22、ACE 44.87、GRPO 42.12（HotpotQA 上 72.33 vs GEPA 62.33）。Agent 六环境：Qwen3-8B 平均 18.0（GEPA 9.5、ICL -3.5），GPT-5.6-Luna 平均 36.3（GEPA 29.5、ICL 22.2），六任务几乎全胜。成本上 Qwen3-8B 全本地版 EFRE 6.8 GPU 时 / $13.60，是所有方法中最低（GRPO 75.6 GPU 时 / $151.20）。

机制证据：功能复用模式上，f1/f3/f5 分别主服务 ToolUse/FinQA/Bio，而 f6 被三个任务共享（利用率 17%/16%/19%）；跨任务复用率 41.7%（Qwen 精炼）/56.3%（Luna 精炼）。单任务设定下也涌现 8-12 个功能——功能分化不依赖任务切换，任务内部本来就有多种解题程序。跨模型迁移：GPT-5.6-Luna 学的功能库给 Qwen3-8B 用，最终平均从 63.10 升到 65.02。

5.2 InfiLoop 的实验体系

指标体系：

• 主指标：Sudoku-Extreme / Maze-Hard 精确解准确率（81 格全对才算对）、ARC-AGI-1/2 pass@2
• 机制指标：解后保持率、状态变化范数、扰动后轨迹发散度、自适应步长 γ_t 动态、内容分与错误数的关系
• 效率指标：达到同等精度所需的有效深度（执行 Transformer 层数）

模型与 baseline：7M 参数嵌套循环推理器（2 层共享块、隐藏 512、8 头、SwiGLU、3×3 深度卷积，TRM 代码库改造）；对照 TRM（carry-last）、FPRM（不动点阻尼，最强 baseline）、HRM-27M、EqR、URM、Attractor Models，以及 DeepSeek-R1/Claude 3.7 Sonnet/o3-mini/Gemini 2.5 Pro 等前沿 LLM。

核心结果表：

ARC-AGI-2 上 13.6 pass@2 约为 TRM（7.8）的 1.7 倍，接近 Gemini 2.5 Pro（4.9）的 2.8 倍——7M 参数小模型在抽象推理上反超 671B 的 DeepSeek-R1 一个数量级。

测试时深度扩展（本文最核心的实验）：论文让三个模型在测试时展开到 24,960 层：

• TRM 在 468 层达峰 62.2% 后退化，1,872 层只剩 58.1%——深度反噬的确凿证据
• InfiLoop 1,872 层 90.9%，24,960 层 92.74% 仍在涨——深度持续转化为精度
• 效率：InfiLoop 1,872 层的 90.9% 超过 FPRM 3,744 层的 90.1%（一半算力）；InfiLoop 936 层的 86.5% 是 TRM 拉到 24,960 层（83.65%）也追不上的——26 倍深度换不来
• 难度分层：58 空格处领先 FPRM 峰值 +6.2pp（84.1% vs 77.9%），60 空格处领先 TRM +23.4pp

涌现自验证行为（机制层面最漂亮的证据）：把解出谜题的时刻对齐后发现——搜索期 γ≈0.40（低于等权基线 0.56，压低不可靠提案）；解出现的那一步 γ 冲到 0.91（接受完整解）；之后 6 步内回落到 0.56 冻结。未解出的谜题 γ 全程压低。内容分与错误数单调负相关：全对棋盘中位分 7.25（近裁剪上界 8.0），33 错时 -0.58。没有任何正确性监督信号，模型自己学会了给"对的棋面"打高分。

这个实验设计如何证明论点：论点是"状态替换（而非更新强度）是深循环的瓶颈"。证明路径：(1) 第 2 节的诊断实验直接量化覆盖——TRM 在 36-72 更新窗口把 20.9% 的正确预测改成错误至少一次，解出后 36 轮丢失 19.7% 的解；(2) 与 FPRM 的对照隔离了变量——FPRM 有阻尼（更新强度已被控制）仍然落后，说明只调强度不够；(3) 消融给出存在性证明——训练时去掉内容分（q=0，纯指数滑动平均）精度从 90.9% 掉到 84.1%，测试时去掉掉到 84.8%，而 β=0（退化为 carry-last）直接崩到 1.5%，反证内容打分与聚合机制缺一不可。

其他消融：双轴 82.1% vs 内轴单独 72.6%/外轴单独 75.1%；固定 β 时前向衰减 0.55 达 74.0%，均匀权重 38.4%，逆向衰减（老候选权重更高）只有 2.0%——方向性极其明确；可学习 β 从 0.55 初始化最优（82.1%），0.10/0.90 初始化分别只有 66.3%/63.3%。扰动稳定性：在 36 轮处注入 ε∈[10⁻⁴, 0.3] 的相对扰动再跑 36 轮，TRM 即使 10⁻⁴ 扰动也在 12 步内发散到 O(1) 距离，InfiLoop 全尺度保持 100% 已解谜题、轨迹漂移有界。

六、效果优势的根源解释

6.1 根源机制与证据链

EFRE 的因果链：

1. 方法差异：接受准则从"当前更好"扩展为"当前更好 ∧ 历史保持≥90%"，不兼容更新被路由到其它功能或触发新功能【机制，论文设计】
2. 机制变化：单一 prompt 的共享文本空间被拆分为多个功能各自私有的文本空间+历史缓冲；新知识若与旧能力冲突，不再发生"同一段文字里后句覆盖前句"的干扰，而是物理隔离到不同功能【机制推理，论文实验支持：功能复用模式显示任务共享功能而非独占】
3. 瓶颈缓解：GEPA 的 -11.82pp 稳定性来自其每阶段重写都面向当前任务、旧能力指令被逐出 prompt；EFRE 的门使这类更新进不了当前功能【论文实验支持：消融显示去掉历史约束（ε=1）稳定性恶化到 -2.57】
4. 指标体现：稳定性 -0.31 vs GRPO -8.32 / GEPA -11.82；可塑性 +19.52 几乎追平 GRPO +20.58【论文实验已支持】

单任务增益的根源（阅读者推测，有部分证据）：同一任务内部本来就有多种解题程序（证据合成式 vs 方程式），单 prompt 必须把它们压缩进一段互相牵制的文字；功能库让它们分化到不同功能（单任务下涌现 8-12 个功能、利用率分散在多个功能上），选择器按输入取用——这解释了 HotpotQA +10pp 的来源。论文提供了功能分化的统计证据，但未做"强制单功能"的直接消融，这一步归因尚属推测。

InfiLoop 的因果链：

1. 方法差异：carry-last 的 h_t = z_t（全额替换）改为凸包内自适应步长更新 h_t = h_{t-1} + γ_t(z_t − h_{t-1})【机制，论文设计】
2. 机制变化：含噪候选因内容分低而 γ 小，对已积累状态的扰动被压低；正确中间推导以高权重进入运行摘要，后续循环在聚合状态上继续构建而非从最新输出恢复【论文实验支持：内容分与错误数单调负相关；步长三段动态】
3. 瓶颈缓解：TRM 的深度反噬源于"一次噪声覆盖 + 从退化表征恢复"的正反馈（解后 36 轮丢 19.7% 解、20.9% 正确预测被改错）；InfiLoop 的解出现瞬间 γ 冲到 0.91 后回落冻结，解被锁定在聚合状态里（扰动实验 100% 保持）【论文实验已支持】
4. 指标体现：24,960 层仍在涨（92.74%）vs TRM 468 层即峰；1,872 层 90.9% 用一半算力超 FPRM【论文实验已支持】

两篇论文的共同根源命题：覆盖式更新（参数覆盖 / 文本覆盖 / 状态替换）是循环学习退化的第一因；把"无条件接受最新"改成"有门槛地选择性吸收"，稳定性和深度可扩展性同时到来。这条命题在两篇论文中各自得到独立验证——一个在任务轴，一个在迭代轴。

6.2 相关工作检索与对照

证据等级说明：上述对照中，GEM↔EFRE 历史门、FPRM↔InfiLoop、Attention Residuals↔InfiLoop 属于"机制同源的可核验对照"；EWC/Progressive NN 属于"不同空间、相近结论"的间接支持。两篇论文各自的消融（ε 扫描、q=0/β=0 消融）构成了内生的反事实证据。

6.3 综合判断与未决问题

多研究共同支持的机制：(1) 更新约束/门控能缓解循环学习中的遗忘与覆盖——EWC/GEM（参数）、EFRE（文本）、InfiLoop（状态）三处独立成立；(2) 深循环的收益前提是状态保真——Schwarzschild（正）、TRM 深度反噬（反）、FPRM（强度控制部分有效）共同框定。

仍属推测的部分：EFRE 单任务增益的"功能分化"解释缺直接消融；InfiLoop 的自验证行为在 Sudoku 类可验证任务上证据充分，在 ARC-AGI 这类无显式约束检查的任务上是否同样成立，论文只给了定性案例。

适用条件与可能失效条件：EFRE 的历史窗口只有 20 条样本——任务流远超 50 个功能上限、或任务间高度相似（历史样本区分度低）时，门可能失灵；ε 的 0.1 在三任务流上最优，更长任务流的迁移未验证。InfiLoop 目前只在 7M 嵌套循环推理器与符号/抽象推理任务上验证——数十亿参数 LLM 的循环层是否同样受益、内容打分器在开放域文本上是否能学到"正确性"信号，均属开放问题。两个方向都尚未在对方的问题设定上测试（EFRE 不处理推理内循环，InfiLoop 不处理任务间学习）。

七、必要知识反推

假设一个没有任何背景的人要独立完成这两项工作，他最少需要知道什么？

7.1 领域知识层

• 持续学习的稳定性-可塑性框架（J_plas/J_stab 的定义与测量）：不知道这对指标就无法定义"学新不忘旧"，EFRE 的全部评估都建立在其上
• 循环 Transformer 与测试时计算范式：不知道"共享模块反复执行=用时间换深度"，就看不到 carry-last 这个瓶颈点；不知道 TRM/HRM 的嵌套结构，InfiLoop 的双轴设计无从谈起
• 灾难性遗忘的机理（参数重叠导致干扰）：这是两个论文共同的问题意识来源
• 注意力机制的加权求和本质：InfiLoop 的聚合公式就是一步 softmax 注意力（伪查询 × 候选键值），看不出来就设计不出流式递归

7.2 方法论知识层

• 指数衰减/EMA 与归一化几何：共享打分 + 指数衰减 → 精确流式递归，这步推导需要对衰减矩阵秩结构的敏感；凸包界来自凸组合性质
• 接受准则设计的谱系（从模拟退火到 MCMC 到 GEM 的不等式约束）：EFRE 的历史一致性门不是凭空发明，是约束式更新思想在文本空间的移植
• Prompt 优化方法（GEPA/ACE）的内部结构：EFRE 的对照实验要求作者精确复现这些 baseline 并诊断其失效模式
• 深度监督训练：InfiLoop 沿用 TRM 的训练程序，需要知道如何在有限循环预算内训练可外推深度的模型

7.3 工程知识层

• 精确评测协议设计：EFRE 的评估矩阵（每阶段回测全部任务）、配对标准差计算；InfiLoop 的"解出时刻对齐"分析——这些机制性证据的采集方式本身就是工程创造
• 成本核算：EFRE 的 GPU 时/API token/墙钟三项核算使其"高效"主张可审计
• TRM 代码库改造能力：在 7M 模型上做可控对照（同训练配方、只换连接规则）

7.4 知识融合的关键节点

• 节点一（EFRE）：把 GEM 的"更新不许恶化旧任务"不等式约束（梯度空间的方法论知识）翻译成 prompt 分数上的标量阈值（文本空间的领域对象）——跨空间类比是创造性的爆发点
• 节点二（EFRE）：意识到"不兼容更新"不该被拒绝而该被改道——复用搜索与功能涌现把约束从"过滤器"升级为"路由器"
• 节点三（InfiLoop）：发现"共享打分器 + 指数衰减"恰好可分解为可增量更新的乘积形式——注意力知识（方法论）与递归/EMA 知识在循环架构（领域对象）上的化学反应
• 节点四（InfiLoop）：把聚合重写为自适应步长形式（h_t = h_{t-1} + γ_t(z_t − h_{t-1})）——同一公式的两种读法打通了"注意力聚合"与"残差更新"两个不相往来传统的理解

八、论文中可以提取的通用性灵感

灵感一：有界更新优于无界重写（机制类）

核心思想：任何循环更新系统，“新状态无条件替换旧状态"都蕴含退化风险；把替换改为"带历史约束的有界吸收”，是稳定性的根源。

论文证据：EFRE 的 ε=0.1 门使稳定性从 GEPA 的 -11.82pp 变为 -0.31pp；InfiLoop 的 γ_t 有界更新使 24,960 层持续涨点而 carry-last 的 TRM 在 468 层后退化。

推广场景：(1) 数据库 schema 演进——迁移脚本加"历史查询性能不降 10%“的门禁；(2) 代码重构——大改前跑全量回归测试即"历史一致性检查”；(3) 组织知识管理——新员工手册迭代时保留旧案例库，而非每次全量重写；(4) 个人笔记系统——增量修订 + 版本保留优于推倒重来；(5) 强化学习的策略更新——信赖域（TRPO）思想同源。

灵感二：不兼容的信息不应被拒绝，而应被路由（机制类）

核心思想：当一个容器（prompt/状态/系统）无法无损吸收新信息时，正确动作不是丢弃也不是硬塞，而是寻找或创建另一个能吸收它的容器。

论文证据：EFRE 的三分支演化——历史不一致的更新触发复用搜索（41.7-56.3% 的评估实例被路由到跨任务共享功能）或功能涌现；单任务内部也涌现 8-12 个功能。

推广场景：(1) 多专家系统/路由模型——Mixture-of-Experts 的专家分化可借鉴"历史一致性"作为专家扩容准则；(2) 团队分工——新需求先试当前负责人，冲突则转交兼容成员或设新岗位；(3) 缓存分层——写不进的页找其它槽或淘汰;(4) API 版本管理——不兼容变体开新版本而非覆盖旧版；(5) 记忆系统设计——Agent 长期记忆按"可吸收性"分片而非按时间堆积。

灵感三：让"接受多少新信息"本身成为学习对象（信号利用类）

核心思想：与其用固定规则决定更新的强弱（固定衰减/固定阈值），不如让一个轻量打分器从任务损失中学会给候选打分，更新幅度由分数内生决定。

论文证据：InfiLoop 的内容分与棋面错误数单调负相关（全对中位 7.25 vs 33 错 -0.58）；去掉内容分（q=0）精度掉 6-7pp；EFRE† 换更强精炼模型后跨任务复用率从 41.7% 升至 56.3%。

推广场景：(1) RAG 的检索结果融合——按学习到的相关性加权而非固定 top-k；(2) 集成学习——动态权重门控；(3) 在线 A/B 测试——新策略流量按历史表现自适应分配；(4) 消息队列消费——按消息可信度调节处理优先级；(5) 人机协作——AI 建议的采纳比例随其历史准确率自适应。

灵感四：常数内存的精确聚合——好的约束设计能消灭存储瓶颈（紧凑性类）

核心思想：当聚合形式受限（共享打分 + 指数衰减）时，看似需要全历史存储的计算可以塌缩成常数内存的流式递归——约束不是损失，而是可扩展性的来源。

论文证据：InfiLoop 每轴只用 (N, D) 两个累加器（每 token O(d) 内存、每 puzzle 持久状态 582.8KiB，与 24,960 层无关）；对照 Full Attention Residuals 的 O(Td) 内存。

推广场景：(1) 流式统计——指数衰减直方图/分位数摘要；(2) 在线学习——衰减平均的参数平均（EMA of weights）；(3) 数据库物化视图——增量维护而非全量重算；(4) 监控系统——指数衰减的异常分数聚合；(5) 注意力机制本身——线性注意力/RetNet 的衰减核同源。

灵感五：涌现行为是机制正确性的最好证词（评测方法论类）

核心思想：当一个机制在没有任何显式监督的情况下自发产生了设计者预期的行为（自验证、冻结、功能分化），这比任何端到端分数都更能证明机制击中了问题的本质结构。

论文证据：InfiLoop 解出现瞬间 γ 冲到 0.91 后回落冻结——没有任何"这是解"的标签；EFRE 单任务设定下多解题程序自发分化为多个功能——没有任务边界信号。

推广场景：(1) 可解释性研究——机制解释的验证标准；(2) Agent 评测——观察策略涌现而非只看任务分；(3) 神经科学建模——模型现象与生物现象的涌现对齐；(4) 教育评估——学生自发使用的方法论比单题得分更能说明理解；(5) 组织设计——好制度看自发秩序而非合规率。

灵感六：小模型 + 正确的循环结构可以在特定域打穿大模型（范式迁移类）

核心思想：通用能力上参数规模仍占统治地位，但在结构化推理域，把归纳偏置做进循环连接里，7M 参数可以打赢 671B。

论文证据：InfiLoop（7M）在 ARC-AGI-2 上 13.6 pass@2 vs DeepSeek-R1（671B）1.3；Sudoku/Maze 上大模型全部 0 分。

推广场景：(1) 边缘设备推理——域专用小循环模型；(2) 科学计算——物理先验嵌入迭代求解器；(3) 嵌入式控制——模型预测控制的循环化学习版；(4) 教育——“深度练习少量核心模式"胜过"浅刷海量题”；(5) 创业战略——狭窄场景的结构性深耕对巨头的错位竞争。

两篇论文，一个在模型的"外部记事本"上演化功能库，一个在模型的"内部草稿纸"上聚合推理状态，共同回答了循环时代的学习问题：更新不可怕，可怕的是更新没有门槛、没有去处、没有记忆。给每次更新装上门槛（历史一致性/内容打分）、指明去处（复用/涌现/凸包内插值）、留下记忆（历史样本/运行摘要），循环就从退化的来源变成了能力的来源。