先说结论

这期 Latent Space 的 AI for Science 节目(主持人为转写所示的 RJ 与 Brandon Anderson,嘉宾为 Leash Bio 联合创始人兼 CEO Ian Quigley)讲了一个完整的闭环故事:药物发现机器学习最大的敌人不是模型架构,而是数据里泄漏的社会学——公共数据库里"谁合成了这个分子"几乎可以替代分子结构本身来预测活性。Leash Bio 的应对不是更大的模型,而是一套反作弊的数据生产线:DNA 编码文库(DEL)大规模测量小分子与蛋白的结合,用多条码、定点突变、竞争置换等手段制造真正的因果反事实,最后把这些测量结果变成一个语言模型可以即时查询的强化学习环境。嘉宾认为,这条"物理接地的 RL 环境"路线比训练更大的判别模型更能对抗记忆问题;而节目里那些未经第三方核实的规模数字(40 亿条相互作用、一万次构效关系战役等),都应读作公司自述。

一门"创伤学科":DEL 为什么没人愿意规模化

Quigley 用一个冷开场定调:他和老搭档 Andrew Blevins 还在 Recursion 时,一位药物化学家(转写名不确定,约为 Mike Kukurisi)路过屏幕看了一眼分子就说"这看着像 Stuart Schreiber 做的分子"。如果人能从分子认出作者,模型也能——那模型学到的到底是化学,还是化学家的习惯?这个担忧贯穿了整家公司。

先补背景。小分子药物的目标是让一个"小化学物质"结合致病蛋白;传统做法是把化合物一管一管地试,全球最大的传统库只有几百万分子。DEL(DNA encoded library,DNA 编码文库)把每个小分子挂上一段 DNA 条码,全部倒进一个管子里,把靶点蛋白固定在磁珠上"钓鱼",捞出结合的分子后直接测序条码读出结果。按嘉宾说法,史上最大的 DEL 达到 40 万亿分子量级,而组合化学的设计(几千到几万个"构建块"组合出几百万分子)天然制造了大量"只差一个基团"的近邻样本——这正是机器学习最爱的结构化变异。

代价是业内人尽皆知的"DEL 创伤":有些蛋白的本职就是结合 DNA,会带来假阳性(Leash 的办法是每个分子挂 32–48 条不同条码,条码间不一致即报警,甚至能顺带回收出转录因子的 DNA 结合基序);DNA 条码本身"很重",摘掉条码重新合成后,容易靶点约九成仍有效、困难靶点约五成;经典用户只为一两个难靶点做 DEL,没人愿意系统性地踩这些坑。Quigley 强调,Leash 的差异是团队来自基因组学方法学(他和多名成员出自 Recursion),把 DEL 当成"可扩展测量技术"来工程化:同一个文库反复重制、每次行为是否一致,都靠对着几百个蛋白的筛选来标定——他们甚至发现同一个文库两次生产行为不同,这是只筛一两个靶点的用户永远看不到的。

Kaggle 实验:40 亿条数据,最难榜上无人跑赢随机

为了验证"外面的人到底会不会预测小分子结合",Leash 在两年前办了一场 Kaggle 竞赛,并自己生产数据:约 40 亿条物理相互作用(嘉宾称对比当时最大的公共库 BindingDB 不到 300 万条),全部由"一个人在我家地下室"完成——Quigley 自嘲这是七英尺层高的地下室公寓创业。竞赛库由上海 Xiaoji Lu 的公司(转写为 Alpha Ma)赞助的约 1.3 亿分子文库构成,中心是一个三嗪类"轮毂"加三根"辐条"。

评测设计是这期节目方法论上最精彩的部分。他们偷偷设了三档难度:测试集与训练集共享构建块(简单);不共享构建块但共享三嗪轮毂(中等);以及一个 Leash 自建的完全不同轮毂、不同连接化学的文库(最难)。结果 2000 支队伍里,简单与中等档有提升,最难档没有任何人跑赢随机——前三名里有三支用的还是官方教程笔记本。Quigley 说他们赛前给"共折叠模型进展可能让整家公司失去存在必要"留了 5% 的概率,结果没有发生;而另一个附带发现是:最朴素的 SMILES 字符串表示击败了各种 3D 图、球面卷积等花哨表示。面对"是不是没有高手参赛"的质疑,他们把含原始测序读数在内的全部数据放在 Recursion 旗下的非营利平台 Polaris 上开源,“谁觉得自己行请来打”。

Leash 自己的读法是彻底的"苦涩教训"派:问题比想象中难是好消息——只要能在一个可扩展测量体系里拿到真信号,就该拼命去测量。由此定下战略:两个轴(蛋白数 × 化学数)上同时铺开,而不是十亿分子配三个蛋白;固定预算下,给已有文库更高测序分辨率、给更多蛋白,比盲目扩库更值。

聪明汉斯:模型在学"谁做的",不是"为什么结合"

节目核心的一节把开场玩笑变成了实证。团队从 ChEMBL(最大的分子—活性公共库)里取出所有发表论文超过约 30 篇、分子超过 600 个的化学家,共 1815 人,训练分类器只看分子猜作者:top-5 准确率 60%。更狠的后续是:完全丢掉化学结构,只用"1815 维的作者概率向量"来表示分子,预测活性的效果与用化学式相当;两者合用也没有明显提升。Quigley 的结论:模型学到的"很多是社会学的"——化学家有个人风格,学生继承风格,风格又与所攻问题相关;化学家不合成、不测试的分子根本不会进数据库,“不做某个选择"本身就是留在数据里的指纹。分子量则是最著名的泄漏:公共数据里按分子量排序几乎是单项最强预测子(嘉宾提到 CASF-16 上接近并列第一),因为化学家对一个系列越有信心就越往上加基团。他把这叫"训练在废气上”(training on the exhaust),并配了聪明汉斯的故事:那匹会"算术"的马读的其实是提问者的微表情——“模型完全不懂化学,它记住的是创造者的社会学”。

反作弊的数据生产:突变、竞争置换与 lumacaftor

既然公共数据靠不住,Leash 只用内部数据训练(Quigley 称这是独一份),并用实验设计主动制造反事实:

  • 竞争置换:买来已知会进某个口袋的分子,高浓度加进去重筛,本该进口袋的系列全部被挤掉;
  • 定点突变:对着口袋里的关键残基改 DNA 构建引入突变(换上大侧链"把口袋填上"),重筛后只有口袋系列消失、其他区域的结合完好——这同时排除了"你只是把整个蛋白搞坏了"的质疑;
  • 规模化:大周里每周筛约 100 个蛋白构建,历史上累计约 2000 个构建、约 5000 次筛选,每次覆盖至少 650 万分子。嘉宾称这个量"如果走 CRO 一条一条做,每次约 10 万美元"。

这类干预直接打在"活性悬崖"上(两个分子只差一个"刺",行为天差地别——即传说中的 magic methyl),而 DEL 的组合结构让每个悬崖都有几百个近邻分子反复印证。最漂亮的意外是 lumacaftor:这是一种帮助错误折叠蛋白复折叠的"分子伴侣"药物,Leash 文库里恰好有类似物,结果发现它们专挑错误折叠的蛋白命中——于是"luma 类命中多"反过来成了蛋白生产质量的质检过滤器,命中的批次不进训练集、换条件重做。对"更有钱的实验室直接堆规模碾压你怎么办"的拷问,Quigley 的回答就是这些:批次效应、元数据、从零重建筛选与蛋白表达流程、“把记录工具做得毫无摩擦"的组织文化——这是过程性护城河,钱买不来捷径。

从 Hermes 到语言模型 RL 环境:一万次构效关系战役

模型侧的故事分两段。第一段是 Hermes:ESM 蛋白质嵌入(源自 Meta 出走团队,嘉宾称近期被 Chan Zuckerberg 一方收编)加 ChemBERTa(SMILES 文本嵌入),用交叉注意力拼起来预测二分类结合标签——刻意做小做简单以便快速迭代。评测上他们用"构建块聚类切分"防止相似构建块在训练/测试间泄漏,并全程拿 XGBoost 当基线:距离越远 XGBoost 掉得越狠,而 Hermes 在各切分下表现平稳。注意力图则揭示了新的作弊模式:模型不看口袋、也不看保守功能域,而是盯着非保守区的十来个氨基酸给蛋白"起绰号”;把突变数据灌进训练后,注意力才摊回各残基上。

第二段是他们正在转向的路线:用可读英文表示分子、蛋白与行为(主持人联想到单细胞领域的 GenePT——用基因描述文本的嵌入替代生物嵌入),拿开源语言模型(口述提到 Qwen 与 GLM,转写为"Quins")先学会"用英文描述结构差异、解释为什么结合",再放进一个代理式 RL 循环:给十个结合子与十个非结合子,配 100 个分子的查询预算,让模型在 650 万分子的"已测量世界"里自己选实验、即时拿到结果、更新假设,目标是用最少步数找出最优结合子——像一位药物化学家做构效关系(SAR)战役,但实验零延迟。Quigley 给出的对比是:一个职业药物化学家一辈子大概亲手做几十次、至多 50 次 SAR 战役,而"上周末我们抽出了一万多次,还没怎么用力"。他们的判断是:自然语言是抵抗记忆的好正则化器,而这个"物理接地、可无限次 rollout"的环境(包含人类根本不会去做的反事实选择)是别处没有的——机器人实验室的 in-the-loop 必然受资源与速度限制,数据库查表没有。

商业之问与边界

主持人搬出一条"悖论"(转写名不确定,约为 Shri Kurani 的推文):如果训练好模型需要先有大规模高质量数据,而你已经能收集这些数据了,那还要模型干什么?Quigley 的回答分层:只为了单个靶点找先导物,确实不需要模型;模型的价值在于跨靶点、跨化学空间的泛化——乃至"化学推理"能力成熟后,不必实测就能进军农业、兽医、材料等相邻领域。当下的商业化路径是:手握对约 700 个靶点有选择性先导物的库(嘉宾自述),谈合作、分拆新实体去推进;一个炎症项目从文库命中物到小鼠体内良好的药代/药效只用了六个月(追踪细胞因子生物标志物),他把速度归因于建库时就把类药性写进了 Thompson 采样式的优化目标。边界同样被讲清楚:DEL 的分子形状受构建块与连接化学约束(Y 形、线性、大环),化学空间必然有死角,“现在这样远不够”;读数与解离常数 Kd 之间也没有干净换算,团队刚开始用 SPR 生物物理测量搭"效力阶梯",只能先保证相对排序可靠。

值得带走的观察框架

把这期节目压成三条可迁移的链条:其一,任何机器学习数据集先问"标签由谁的选择生成"——ChEMBL 的活性标签是化学家的取舍史,分子量与作者指纹是两个已暴露的泄漏通道,你的领域大概率有自己的版本;其二,可扩展测量 + 反事实设计是数据侧的苦涩教训——简单表示(SMILES)加规模击败花哨架构的前提,是测量本身经过反作弊工程化(多条码、竞争置换、点突变);其三,“已测量世界的数据库查表"是一种被低估的 RL 环境——它比机器人快几个数量级、又比纯文本世界多了物理因果,值得在其他科学领域寻找同构物。后续观察 Leash 的指标也很明确:语言模型代理在固定预算下逼近最优结合子的效率、外部团队在其开源 Polaris 数据上的最好成绩、以及 700 个靶点先导物里实际谈成的合作与分拆数量。至于节目里最动人的那句自省——“我们可能是被 traumatized 的那批人,但这次是好方向的创伤”——恰好说明:在 AI for Science 里,数据生产的创伤经验本身就是壁垒。