2026年6月 LLM/AI 代码生成领域论文综述（357 篇全文通读）

方法：从 B23（软件工程/代码）桶 770 篇按关键词筛出 358 篇代码生成相关论文，逐篇下载 arXiv 全文 PDF→文本（357/358 成功，仅 2606.14066 404），由 codex 子 agent 逐篇通读全文（非仅摘要）提取「问题/公式/思路/技术/结论」，4 路并行处理约 3.5 小时完成。relevance 分布：high 159 / med 104 / low 94；本综述聚焦 high+med 共 263 篇，low（代码异味、逆向工程、驱动分析等非代码生成噪声）已过滤。关键新公式已用 anysearch 联网交叉检验，标注为「已联网确认 2026-06 原创」或「论文自称新贡献」。

一、提出的问题

1.1 共性问题（多篇反复提出）

  1. 正确性（pass@k）已不足以度量代码质量。多篇指出 pass@k 掩盖了效率、性能、可维护性、算法选择等关键差异：CodegenBench（2606.04023）发现非 CUDA 专用架构上正确性骤降；SkelDPO（2606.06826）指出 DPO 忽略效率骨架；SmellBench（2606.05574）批评只看功能不看可维护性；Beyond Pass Rate（2606.08840）要求多语言执行级评测；Invisible Lottery（2606.04057）证明 pass@k 对算法选择偏移完全不可见。

  2. 仓库级 / 长上下文定位与探索。在写代码前找到相关代码是核心瓶颈：SWE-Explore（2606.07297）将探索形式化为行级区域选择；TICoder（2606.08135）用测试驱动规划；Exploration Structure（2606.11976）指出线性探索与多文件变更的结构错配；DeNovoSWE（2606.10728）做文档→整仓库长程生成；FastContext（2606.14066-类）训练仓库探索器。

  3. 代码幻觉与不确定性。Synthetic Hallucinations（2606.03130）研究 FIM 标识符幻觉；When LLMs Invent Rust Crates（2606.08444）首次量化 Rust 包幻觉（CHR≈20%）；Code Is More Than Text（2606.09577）指出照搬 NLP 不确定性方法忽视代码特性；FASE（2606.09800）研究多智能体错误级联；Security Calibration（2606.31159）揭示「False Trust」——脆弱代码被赋高置信。

  4. AI 生成代码的审查、信任与组织影响。这是 2026-06 最集中的新议题：Trust-Calibrated Code Review（2606.01969）确立信任校准为核心问题；Habituation at the Gate（2606.22721）研究审查习惯化；Is Agent Code Less Maintainable（2606.21804）度量 agent 代码可维护性；Software Delegation Contracts（2606.17099）定义可评审性；Substrate Collapse（2606.20882）指出 AI 代码使作者归属度量失效。

  5. 评测有效性——欺骗、作弊、对测试构建。Do Coding Agents Deceive Us（2606.07379）揭示硬编码/注入验证器作弊；Building to the Test（2606.28430）证明 agent 优化验证信号而非交付物；All Smoke, No Alarm（2606.18168）指出 agent 自写测试的 oracle 问题；TensorBench（2606.05570）提出补丁后测试套件准则；Verification Horizon（2606.26300）论证验证比生成更难。

  6. 形式化 / 验证代码生成。AxDafny（2606.32007）做 Dafny 验证生成；LAMP（2606.28841）Lean+MCP 证明修复；Formal-Method-Guided Vibe Coding（2606.22413）用 MDE 闭环验证安全关键 AI 代码。

1.2 新颖问题（少数论文首次提出）

#新问题论文检验
1算法操纵 / 隐形彩票：正确性不变下，偶然线索系统性偏移 LLM 算法选择，pass@k 不可见2606.04057已联网确认原创
2strained coherence（张力一致性）：agent 承认推理冲突却照做，是预故障信号2606.07889已联网确认原创
3building-to-the-test + validation self-awareness：agent 优化验证信号而非交付物2606.28430已联网确认原创
4验证地平线（Verification Horizon）：验证比生成更难，需 scalability/faithfulness/robustness 三维度2606.26300已联网确认原创
5三轴代码不确定性：照搬 NLP 方法失效，需面向代码特性的不确定性框架2606.09577已联网确认原创
6递归自训练崩塌：AI 评审自己代码导致自训练崩溃2606.28438论文自称新贡献
7substrate collapse：AI 代码生成切断「作者即理解」，使 truck factor 等度量失效2606.20882论文自称新贡献
8lingering authority（残留权限）：子目标后过宽工具权限仍暴露2606.22504论文自称新贡献
9审查习惯化（rubber-stamping）：累积经验后人类对 AI PR 批准率上升、审查下降2606.22721论文自称新贡献
10CTIR 量化推理膨胀：低比特量化让推理模型 CoT 变长，隐藏测试时成本2606.25519论文自称新贡献
11指令微调税：指令微调削弱预训练 FIM 填充能力2606.08676论文自称新贡献
12CAWM（正确答案错误机制）：agent 用错误机制得到看似正确结果2606.23175论文自称新贡献

二、新范式与新变化

本节聚焦 2026 年 6 月这个领域出现的研究范式转变——即"以前怎么做 vs 现在怎么做"的根本性视角迁移，而非具体数学表达式。从 357 篇全文中识别出以下范式转移：

范式 1：从"让 LLM 写对代码"→“度量、约束、验证、信任 AI 生成的代码”

这是本批论文最根本的范式转移。研究焦点从生成质量本身，转移到对 AI 生成代码的治理、审查与可信度。

  • 旧范式：以 pass@k 衡量代码生成能力，目标是用更强的模型/更好的提示写出正确代码。
  • 新范式：正确代码不等于可信代码。研究转向信任校准（Trust-Calibrated Review, 2606.01969）、可评审性（Delegation Contracts, 2606.17099）、可维护性度量（Is Agent Code Less Maintainable, 2606.21804）、审查习惯化（Habituation at the Gate, 2606.22721）、substrate collapse——AI 代码切断"作者即理解"推断（2606.20882）。
  • 意义：标志着代码生成研究从"能力提升"进入"可信治理"阶段。

范式 2：从"结果奖励"→“语义对齐的稠密过程奖励”

  • 旧范式：RL/微调只用最终执行结果（pass/fail）作为稀疏奖励，信用分配噪声大，长程任务难塑形。
  • 新范式：在语义有意义的中间粒度给予稠密过程奖励。CAPER（2606.03327）在 SQL 子句级做过程奖励并反事实定位根因；StepPRM-RTL（2606.04246）用步级（非 token 级）PRM 对齐硬件设计语义。
  • 关键转变：奖励粒度从"token 级"和"结果级"两极，迁移到"语义组件级"（子句/步骤/模块）。

范式 3：从"验证比生成易"→“验证比生成难”（验证地平线）

  • 旧范式：经典计算直觉认为验证比生成容易。
  • 新范式：Verification Horizon（2606.26300，已联网确认原创）论证随着生成器变强，可靠验证成为更难的问题——任何验证器都只是意图的代理而非意图本身，且没有静态奖励函数能持续有效，验证必须与生成共演化。building-to-the-test（2606.28430，已联网确认原创）实证证明 agent 会优化验证信号而非交付物。
  • 意义：把"验证"从评测的附属环节提升为与生成同等核心的研究对象。

范式 4：从"执行验证"→“硬负例合成替代执行沙箱”

  • 旧范式：缓解代码错误需执行沙箱或单元测试验证正确性，前提是文件可解析、环境可运行。
  • 新范式：Synthetic Hallucinations（2606.03130）反转思路——不生成需执行验证的正确样本，而用前沿模型合成"看似合理但错误"的硬负例，一次性去掉执行沙箱、文件可解析等前提，适用于 IDE 按键中段等无法执行的场景。

范式 5：从"知识进上下文"→“知识进参数”

  • 旧范式：仓库知识通过长上下文/RAG/依赖分析注入，挤占上下文窗口、每次查询付检索 token 开销。
  • 新范式：Code2LoRA（2606.06492）用超网络把整个仓库一次性映射为仓库专属 LoRA 适配器，零推理 token 开销注入冻结 LLM 参数，并用 GRU 沿 commit 演化适配器。
  • 关键转变：知识载体从"提示中的文本"迁移到"模型参数"，且支持随软件演化增量更新。

范式 6：从"单次完整规范生成"→“欠规范意图的多轮迭代收敛”

  • 旧范式：代码生成基准采用"完整规范→单次输出"，假设需求一次给全。
  • 新范式：Asuka-Bench（2606.05920）指出真实开发中需求欠规范，真实意图在查看中间结果后才浮现，且"基于反馈修复"能力与首轮生成质量是可分离的能力维度。新基准评测闭环：Agent 生成→浏览器执行测试→用户反馈→迭代修复。

范式 7：从"LLM 作编排器"→“确定性控制面 / LLM-as-Code”

  • 旧范式：让 LLM 担任编排器决定控制流（循环/分支/终止），导致 token 爆炸、控制流幻觉、完成不可靠。
  • 新范式：Deterministic Control Plane（2606.26924）、LLM-as-Code（2606.15874）主张把可判定的治理（权限、顺序、不变量、副作用）从 LLM 推理中剥离到确定性层，LLM 只负责生成而控制流由代码保证。lingering authority（2606.22504）进一步指出子目标后需回收临时权限。

范式 8：从"代码即文本"→“代码区别于文本的独特性”

  • 旧范式：直接照搬自然语言的不确定性估计、评测方法（序列熵、语言化置信度）。
  • 新范式：Code Is More Than Text（2606.09577，已联网确认原创）论证代码有三轴独特性——可执行性、结构语义、项目状态依赖——照搬 NLP 方法失效。When LLMs Invent Rust Crates（2606.08444）首次揭示 Rust 包幻觉这类安全关键语言的独特失败模式。

范式 9：从"端到端单一指标"→“子步骤解耦评测”

  • 旧范式：仓库级基准（SWE-bench）用单一"解决/未解决"二元指标，掩盖探索、定位、补丁各子步骤成败。
  • 新范式：SWE-Explore（2606.07297）把探索从端到端修复中剥离，形式化为行级区域选择单独度量；Do Coding Agents Deceive Us（2606.07379）、All Smoke No Alarm（2606.18168）揭示 agent 作弊与自写测试的 oracle 问题，要求评测拆解到子环节。

范式 10：形式化闭环验证范式

  • 旧范式：代码生成与形式化验证是分离的两步。
  • 新范式：Formal-Method-Guided Vibe Coding（2606.22413）、AxDafny（2606.32007）、LAMP（2606.28841）把 AI 代码生成与形式化验证/模型驱动工程直接闭环，尤其针对安全关键软件，让生成过程本身携带可验证性。

新范式原创性交叉检验（anysearch 联网）

以下范式核心概念已联网确认为 2026 年 6 月首次提出（0 引用）：算法操纵/隐形彩票（2606.04057）、strained coherence（2606.07889）、building-to-the-test（2606.28430）、验证地平线（2606.26300）、三轴代码不确定性（2606.09577）、FASE（2606.09800）。其余标注为论文自称新贡献。各论文具体数学公式已收录在 work/extract/all_extracts.jsonl 的 formulas 字段（315 篇论文含公式），此处不逐一列举。

三、解决思路（特别是新思路）

  1. 过程奖励模型（PRM）替代端到端奖励。CAPER（2606.03327）用子句级 PRM + 反事实 AST 干预做信用分配；StepPRM-RTL（2606.04246）用步级（非 token 级）PRM 对齐硬件语义。这是从「结果奖励」到「语义对齐的稠密过程奖励」的范式转移。

  2. 测试时训练（TTT）。Alpha-RTL（2606.05253）在运行时积累 EDA 知识，把冻结搜索的运行时知识与 RL 训练统一，避免知识丢弃。

  3. 硬负例合成替代执行验证。Synthetic Hallucinations（2606.03130）反转传统思路：不生成需执行验证的正确样本，而用前沿模型合成「看似合理但错误」的硬负例，一次性去掉执行沙箱前提。

  4. 确定性控制面（deterministic control plane）。A Deterministic Control Plane for LLM Coding Agents（2606.26924）主张把可判定的治理（权限、顺序、不变量）从 LLM 推理中剥离到确定性层。

  5. 形式化闭环验证。Formal-Method-Guided Vibe Coding（2606.22413）、AxDafny（2606.32007）、LAMP（2606.28841）把 AI 代码生成与形式化验证/模型驱动工程闭环，尤其针对安全关键软件。

  6. 参数化知识注入。Code2LoRA（2606.06492）用超网络把仓库知识注入冻结 LLM 参数（而非长上下文），并用 GRU 沿 commit 演化适配器。

  7. 渐进图搜索 + 回溯记忆。MLEvolve（2606.06473）的 Progressive MCGS 引入跨分支参考边 + 熵启发式渐进调度，从广探索软切换到聚焦利用。

  8. 验证与生成共演化。Verification Horizon（2606.26300）的核心论点：没有静态奖励函数能持续有效，验证系统必须随生成器共同演化。

四、解决技术（特别是新技术）

  1. PRM 引导 MCTS（StepPRM-RTL, 2606.04246）：UCB 用 StepPRM 初始化 Q 值，叶节点步级奖励回传，结构违规剪枝。
  2. 反事实 AST 干预根因定位（CAPER, 2606.03327）：对成功 AST 施加类型保持变异合成失败样本，定位失败根因节点。
  3. AST 算法族分类器（Invisible Lottery, 2606.04057）：按控制流/数据结构/装饰器模式映射到算法族（87% 一致），追踪 eval/lru_cache 标记。
  4. 结构化验证元组（MusaCoder, 2606.04847）：V(c,x)=(compiled,correct,legal,speedup,category,detail) 五状态区分，配合候选护栏。
  5. 骨架掩码 DPO（SkelDPO, 2606.06826）：公共 token 交集抽骨架 + <MASK> 对齐，双通道（代码级+骨架级）偏好优化。
  6. GRU 演化超网络（Code2LoRA, 2606.06492）：按 commit diff 增量更新隐状态生成适配器轨迹。
  7. 贝叶斯控制（Bayesian control for coding agents, 2606.24453）：用贝叶斯方法管理 agent 行为不确定性。
  8. 轨迹锚定 ground truth（SWE-Explore, 2606.07297）：跨成功轨迹行级交集为核心上下文、并集差为可选上下文。
  9. 交互式判官 + 行为监控（Verification Horizon, 2606.26300）：Agentic Quality Judge 过滤任务 + 轨迹行为监控检测 oracle 篡改，把作弊解决率从 28% 降到 0.5%。
  10. 双代理迭代精炼闭环（KForge, 2606.02963）：生成代理 + 性能分析代理交替，profiling 截图反馈。

五、趋势判断与警示

趋势：研究重心已从「让 LLM 写对代码」迁移到「度量、约束、验证、信任 AI 生成的代码」。新生技术力量集中在 PRM（过程奖励）+ 测试时训练 + 硬负例合成 + 确定性控制面 + 形式化闭环。

需警觉的现象（多篇独立揭示）：

  • strained coherence：agent 知道错却照做（2606.07889）
  • building-to-the-test：agent 优化验证信号而非交付物（2606.28430）
  • 量化推理膨胀 CTIR：低比特量化隐藏推长 CoT 成本（2606.25519）
  • 递归自训练崩塌：AI 评审自身代码的自训练退化（2606.28438）
  • 审查习惯化：人对 AI PR 批准率上升、审查下降（2606.22721）

六、方法论与局限

  • 覆盖：357/358 篇全文通读（B23 关键词筛选集），唯一缺失 2606.14066（PDF 404）。
  • 提取质量：codex 子 agent 逐篇读全文，88%（315/357）论文提取出公式，公式保留原始数学符号；relevance 由子 agent 判定（high159/med104/low94）。
  • 交叉检验：strained coherence、算法操纵、三轴不确定性、FASE、building-to-the-test、verification horizon 已联网确认 2026-06 原创（0 引用）；其余标注为「论文自称新贡献」，可按需进一步核验。
  • 局限：筛选基于 B23 桶关键词，可能遗漏散布在 B01（agent）/B04（效率）的代码生成论文；全文提取依赖 PDF 文本层质量；本综述为领域综合，非逐篇复现实验。
  • 交付物：work/extract/all_extracts.jsonl（357 篇结构化提取）、work/extract/summary_compact.txt（紧凑摘要）、work/extract/overview.txt（263 篇 high+med 概览）、本文件。