先说结论
这是 Latent Space Science 的一期约 16 分钟追访(主持人 Brandon 与 RJ,嘉宾仍是 Leash Bio 的 Ian Quigley),与本季正片背靠背发布。今年早些时候那期节目(本站整理见《模型学的是化学家的指纹,不是化学:Leash Bio把湿实验室做成RL环境)里,Quigley 还把「让语言模型在预测量的筛选数据里当药物化学家」称为一个「有趣但不知能干什么」的想法;这次它已经长成完整产出:预印本(节目称与本期间步上线)、数据集、数千条 rollout 转录与环境包一起发布,旗舰任务是药物化学里最日常的构效关系(SAR)优化。本文依据英文自动转写整理,全部时间段(0s–994s,共 9 段)已完整读取;所有结果均为嘉宾与节目口径,预印本细节待其公开发布后核验。
环境长什么样:给 agent 一张目录、一百个分子预算
Quigley 复述了任务的最终形态:给一个语言模型 agent 一张可选分子目录和一个靶点蛋白,预算一百个分子,其他什么都不告诉它,「去找你能找到的最好结合剂」。agent 会用可读的自然语言写出 SAR 假设——为什么这些分子有效、那些无效——然后在这有限预算内逐条检验。因为整片「分子—蛋白」作用景观都已预先测完,同样的战役可以无限重放:Quigley 说他们已做到约九万次 rollout(上期节目时还是「上周末一万多次」的量级)。
预印本的核心卖点在他看来有两层。第一层是常规的:不同模型家族、不同代际的 agent 在成绩上拉开了清晰的分离度,成绩分布图「有点像 ARC-AGI-2 的图」——他坦言这是刻意追求的效果。第二层更关键:因为环境全局已知,你不仅能问「agent 找到的分子多好」,还能问「它离整个环境里的最优差多远」——比如它只找到全局最好者一半水平的东西——于是「科学决策质量」第一次可以被量化,而不只是看最终分数。
意外发现:模型强弱分在「止损纪律」上
行为学观察是这次访谈最有信息量的部分。Quigley 列举了几类典型行为:过早放弃的;买了与自己刚才写下的 SAR 假设相矛盾的分子还在继续的;预算有限却反复重测同一个分子的;以及在探索与利用之间摇摆的。真正的意外是:更强的模型远比弱模型擅长抛弃没有产出的分子邻域。「不只是跳来跳去更多——它们是真的 figured something out:『这地方不行,走人』。」弱模型的画像则生动得多:对着两个低分分子说「但我对它们感觉不错」,然后永远在同一片没希望的邻域里做微小修改。主持人追问为什么更强的模型能做到,Quigley 的回答很诚实:「我们完全还不知道。」
配套发布的是数千条完整转录。他建议的玩法是把大批转录直接倒进 LLM 去归纳失败模式;转录里 agent 的推理长什么样?「我觉得这个环是好的,这个氮有点讨厌」——非常像样的药物化学叙事。他们请过一些药物化学家看过(样本不大),评价是「这些确实是做这类实验时很合理的想法」。
模型排行榜:前沿每十一天一更,「你得比 Anthropic 先发货」
按录制时的图(模型名多经转写、存在识别误差,仅供参考):冠军是一个被转写成「after six」的模型(疑为某 6 系旗舰);Sonnet 5.5「其实相当不错」;被转写成「soul six one」的模型(疑为 Sol 6.1)也不错;Opus 5.5 则「还没来得及测」。被他点名批评的是某「X five」——「一大坨垃圾,又贵又不行」,并补了一句个人判断(转写归属清晰):「5 会被 Anthropic 长期视为一个大失误」,而「point five 这一代普遍不错」。开源侧也测了一批小号 Qwen、GLM、Kimi(转写作 Kitty)与 DeepSeek,其中 DeepSeek V4 Flash「相当不赖」。Quigley 苦笑说最恼人的是节奏:上次录完节目后前沿模型「大约每十一天掉一个」,每次都想「我们要 ship 了」结果又来新模型——「你必须比 Anthropic 先发货」。
一条重要的时间线注脚:就在去年夏天,他们还需要开内部项目对模型做 SFT 才能让它们读懂 SMILES(描述分子的字符串语言;同一个分子有多条等价 SMILES,来回转换需要流利度),因为当时没有任何前沿模型能做好这件事;而到今年 2 月前后,前沿模型「开始能真正与化学打交道」,这正是他们启动这条环境路线的原因。主持人问模型是否内化了分子的物理性质,Quigley 的措辞很谨慎:「有一点。至少它们在用这些信息——把分子信息拿掉,决策就明显变差。权重没变,但它们在后续选择中确实用上了。」至于为什么不放一个贝叶斯超参优化当确定性基线,他的回答是「这片景观太尖、维度太高,我们基本认为它不会管用」。
「摊销延迟的 lab-in-the-loop」:一次测量,无限重放
方法论上,Quigley 把这套东西命名为「摊销延迟的 lab-in-the-loop」:把实验一次做完、录成完全已知的反事实密集环境,之后的 rollout 相当于零延迟、近乎无限次的实验室循环;而传统 lab-in-the-loop 每一步都要等真实实验,慢且预算有限,每个决策只有一次机会。他主动对比了同路的 Lila(FutureHouse 一系):Lila 也把实验用于 rollout,「但不是实时做的」;Leash 路线的代价则是只能选预测量过的选项——自由度换确定性。规模计划是嘉宾自述口径:Leash 创立以来已用几套化学文库筛了约一千个蛋白,目前每天新增两个环境,目标是「不用太费劲就提到每天二十个」(时间点转写不清,疑为 2027 年初)。更大的悬念他也没回避:从这类环境里练出的强化学习能不能迁移到新生物学,「我们还不知道,正在试」;下一步还要找决策理论的人合作——因为这套环境测的归根结底是「有限实验预算怎么花」;同时在往环境里加结构相关的工具调用。
读者启发
这期追访最值得带走的不是榜单,而是一个评测范式:当环境全局已知时,评测可以从结果分深入到决策过程——止损纪律、假设与行为的一致性、预算纪律、探索/利用切换,全都变成可统计的指标。「更强模型更快放弃坏邻域」这一发现,本质上把 agent 评测与决策研究接上了:确认偏误(「分数低但我感觉不错」)在弱模型上被定量捕捉,这在纯文本基准里几乎测不出来。对 AI4Science 从业者,另一个可迁移的判断是时机学:一条路线何时可行,常取决于「模型补齐工具短板」的时点——SMILES 流利度从需要 SFT 到原生具备只用了一年,环境类工作要盯住这类能力拐点。观察指标也现成:预印本与九万条 rollout 数据的公开、环境包能否被第三方复用出排行榜、以及「止损行为差距」会不会被其他 agent 基准吸纳为标准指标。
(转写专名说明:Quigley、Brandon、RJ 与 Latent Space 前期文章保持一致;「after six」「soul six one」「OS five point five」「harbor packages」等按原音保留并随注疑义,其中 OS 疑为 Opus、harbor 疑为 Hub/Hugging Face 包;模型评价均为嘉宾录制时点观点。)