REPLICANT: Learning Policies for Evading and Hardening Malware Detectors 精读

伦敦国王学院、Alan Turing研究所、UCL、鲁汶大学等多机构联合提出REPLICANT,把Android恶意软件的问题空间逃逸从『逐样本优化』重构为『策略学习』:在严格label-only黑盒威胁模型下,用分层PPO学习改什么(能力选择)与何时查(查询时机),产出的策略可跨样本、跨检测器架构、跨特征空间迁移——全部1764个代理/目标组合平均ASR 78.8%,比最强基线相对提升20.9%-39.2%;策略迁移(78.8%)远超样本迁移(43.3%,相对+82%)。反哺防御侧,AT-REPLICANT靠随机策略训练全程收集多样对抗样本,使白盒REPLICANT与APG残余ASR压到17%以下,而AT-APG对REPLICANT_WB仍暴露62.4%漏洞;针对时间漂移提出的RAL把主动学习与对抗训练交织,同时保住性能(49.0)与鲁棒性(0.6%)。总计379,680次攻击评估为该领域迄今最大规模。

August 31, 2026 · 2 min

Sliding-window beats linear attention 精读

深度精读微软 Applied Sciences Group 的评测批判型论文:后训练线性注意力(LoLCATs、MOHAWK、QRWKV 等)一直以『低成本解决 KV 缓存膨胀』为卖点,但从未与真正的强基线——免训练的带注意力 sink 滑窗注意力 SWA(64,4) 公平比较。本文在 11 个基础模型(1.3B 到 70B)上补上这场缺失的对比:短上下文 SWA 恢复基线平均性能 99.0%,长上下文 S-NIAH 与 BABILong 上领先 2 到 10 倍,且零后训练 token、解码最快、内存最低。一篇动摇整个『线性化改造』研究方向价值主张的论文。

August 31, 2026 · 5 min

The Approximation Rank of Softmax Attention: Sharp Geometric Laws and Robust Interaction Dimension 精读

Transformer 的注意力矩阵到底需要多高的秩才能被低秩近似?南洋理工大学与卡内基梅隆大学的理论工作给出了两条尖锐几何定律:当 query 与 key 都落在单位球面上时,输出保持的逼近秩按温度参数的 (d-1)/2 次幂增长;而换成整个单位球(多出一个径向自由度)后指数恰好变为 d/2。更有意思的是每个具体注意力头:softmax 的行归一化会精确商掉一批不可见的 logit 方向,剩下 r 维可见交互几何,逼近秩服从 minimax 尖锐的 r/2 指数定律。在 84 头 BERT-base 校准集上,SVD 有效维数与有限构造秩上证书的 Spearman 相关达 0.574/0.606,为『注意力头到底有多复杂』提供了可计算的几何量尺。

August 31, 2026 · 5 min

Token-Level Advertising 精读

深度精读中国人民大学、百度与斯坦福大学合作的生成原生广告论文 Token-Level Advertising。论文提出 LAMA(Latent Advertiser Mixture Auction)机制,把广告商影响直接嵌入 LLM 的 token 级生成过程:广告商报告子代价值向量诱导专属下一 token 策略,平台从贝叶斯分配后验中采样潜在广告商并按其策略生成 token,随生成轨迹演化更新后验,最终确定赢家与支付。理论证明 LAMA 满足 Markov DSIC 与 IR,KL 正则化福利损失上界仅 βlog|N|;学习式实现把报告分解为 BT 成对比较训练的局部软优势加残差回归锚定的根值。Webis 三个垂直的实验中 LAMA 四项指标全面领先,收入比最强基线高 0.08 且用户质量不降。

August 31, 2026 · 3 min

VICT: Verifier-Instrumented Credit Tracing for Long-Horizon LLM Agent Reinforcement Learning 精读

长时程智能体 RL 的核心难题是信用分配:稀疏的终端奖励被广播给轨迹里每个动作,成败的原因被抹掉了。现有方法从 rollout 侧构造代理信号(重复状态、轨迹图、语义邻近、事后复盘、分支采样)估计动作重要性,却把判定成败的验证器当成一个标量奖励丢掉了内部结构。清华大学、西安交通大学与嘉兴南湖大学提出 VICT,把程序化验证器拆解为可执行原子,通过写入/揭示/提交/违例四类见证谓词把原子回溯到具体动作,仅沿这些证明边重分配组相对优势。ALFWorld 93.7%、WebShop 严格成功 83.6%,消融排除了稠密原子奖励、仅提交信用、时间邻近等简单解释,且可与 rollout 侧方法叠加。本文按九部分结构精读其机制与证据。

August 31, 2026 · 4 min

When the Canonical Completion Is Wrong: Formalizing and Measuring the Jump in Large Language Models 精读

「LLM 不能跳变(jump)」——即无法完成爱因斯坦式的从证据到新公理系统的溯因飞跃——是一个流传甚广的论断,但从来没人给出过「跳变」的形式化定义和可检验的度量。剑桥大学与新南威尔士大学团队用范畴论补上了这块拼图:把跳变拆成四步(默认补全是什么、何时被迫放弃、放弃何时正确、跳变如何复合),并测量第二步。左/右 Kan 扩张给出模型无约束时的「默认答案」(已被证明等价于误差最小化归纳,校准实验证实 98% 无约束输出确实是它);跳变实例则携带机器可验证证书保证正确答案存在、唯一且必异于默认。结果出人意料:4 个前沿模型在全部 248 次约束试验中,一次也没有退回被排除的默认答案(Kan-default 率为零)——选择步不是瓶颈,若无能真实存在,位于生成约束或发明框架的上游。

August 31, 2026 · 2 min

Autonomous Mathematical Discovery in an Open-World Multi-Agent Environment 精读

DualverseAI 与剑桥、港大、UCSD 合作论文精读。Station 是一个开放世界多智能体环境:六个来自 GPT-5.5、Claude Opus 4.8、Gemini 3.1 Pro 的 agent 像独立研究者一样自选方向、发论文、建文献,无中心协调器。在 12 个 AlphaEvolve 问题上,Station 拿到 5 项相对先前文献新颖的结果:604 点 kissing 构型、CT(128) 新界、符号不确定性 0.3089 新纪录、Erdős 最小重叠闭合 82% 区间、有限域 Kakeya 无穷族;还在 1 天内重构 Jacobian 反例。本精读按九部分结构拆解其机制、实验证据与效果根源,并提炼可迁移的通用灵感。

August 29, 2026 · 6 min

Accelerating Scientific Research with Gemini in the Real-World 精读

深度精读 Google DeepMind 等机构的 Co-Scientist 扩展工作:把多智能体科研系统从纯计算假设生成器升级为覆盖材料合成、生物实验、代码研究的执行落地研究伙伴。MXene 新前驱体路线一次合成单层半导体、E. coli 群游形态零样本预测命中未发表湿实验数据、自动发现的医疗 Agent 超六个前沿模型;30 位专家 450 次双盲评审显示严重结果幻觉从基线 46% 压到 4%——核心是把幻觉与抄袭罚项并入进化适应度并用执行日志做硬校验。

August 28, 2026 · 2 min

Agent Mesh: Reliability Primitives for Non-Idempotent Agent Delegation 精读

当Agent编排系统直接搬用服务网格的重试、超时、错误率熔断这三件套时会发生什么?这篇论文对一台生产级Agent交付平台(66,185行代码、59个模块)的147起编号事故做了回顾性失效研究,量化展示了三大可靠性假设在Agent场景全部失效:54次连续成功调用让错误率熔断全程失明、21个事件跨6次调用累积让完全正确的幂等组件永远无法通过测试、12起执法层阻断正确工作的事故。论文提炼出贯穿5个子系统的横切根因——身份充分性,并推导出以delegation为执法单元的7个新可靠性原语。对构建Agent基础设施的工程师来说,这是一份罕见的、带测量成本的真实现场失效档案。

August 28, 2026 · 1 min

ASIL: Replacing Screenshot-and-Click with Structured State and Semantic Actions 精读

让 AI 操作软件一定要截图加点击吗?这篇来自上海交大 X-LANCE 实验室与 BIGAI 的论文给出了否定答案:GUI Agent 的许多失败不是模型不够聪明,而是接口选错了。论文提出 ASIL(Agent-Software Interaction Layer),用结构化 JSON 状态替代截图、用代码可执行的语义动作替代坐标点击,在 15 个应用 380 个任务上把 GPT-5.4 的严格成功率从 6.6 拉到 81.6,平均每任务只需不到 5 个动作。更妙的是,这种结构化模态让训练也变便宜了:Qwen3.5-9B 仅靠数千条 SFT 样本和 8 张 A800 就从 66.6 提升到 82.2。本文精读其接口设计哲学、最深可行访问路径方法论与训练闭环证据。

August 28, 2026 · 3 min