If It's Not Buggy, Don't Fix It: On the Dynamics of Iterative Bug-fixing with LLMs 精读
Warwick×UnlikelyAI 的这篇论文把’LLM 迭代修 bug’当作动力系统研究:每轮修复在修好一部分的同时引入新 bug(修复率与损伤率并存),系统收敛到几类吸引子——正确修复、振荡、或’幻觉修复’(模型虚构不存在的代码块导致循环早停)。最有趣的发现:bug 倾向性可以作为 steering vector 从 layer ~19 的激活中线性读出并双向干预——放大它模型更爱修(也更多幻觉)、抑制它模型更保守。‘没病别修’在机制层面有了操作含义。