先说结论

上一期(本博 2026-10-08 文)Wes Roth 讲 OpenAI 一次性放出 722 篇 AI 数学论文、数学正在工业化;本期是续集,他追问一个更切身的问题:当数学被一种人类读不懂的方式推进,第一个被击穿的行业可能是谁? 他的答案是密码学——签名、加密、区块链这些把安全性押在「某些数学问题很难」之上的系统。链条是:OpenAI 的证明用了人类没有名字的构造(“外星数学”)→ 说明攻击面分析不能再依赖人类已知技巧 → 椭圆曲线与格的安全性假设可能在未来两年内被 AI 数学重创 → 而迁移到抗性更强的密码体系需要时间,AI 的推进速度却仍在每月十倍。节目同时给了这条主线三块拼图:Scott Aaronson 的私人视角(他妻子的毕生问题被解)、Justin Drake 的“掩体模式”行动建议、Vitalik Buterin 的不护短表态,外加一段对 Anthropic“禁止虐待模型”条款的深度不确定辩护。以下均为节目陈述与引用,未独立核实。

一、被 cook 的妈妈,与读不懂的证明:Aaronson 的私人视角

Wes 先交代人物:Scott Aaronson,理论计算机科学家、曾参与 Google 量子优越性相关工作(节目纠正:不是谷歌雇员,但“参与了一些发现”)、OpenAI 早期研究者(他自述 moonlight)、如今在大学教 AI 对齐课。事件中心的私人细节是:Aaronson 的妻子是一位复杂性理论家(转写作 Dana Mashkevitz,节目称其在 Subhash Khot 的唯一游戏猜想(UGC)上工作多年,“worked towards proving for the entire time I’ve known her”),而 OpenAI 本批 372 个“巨大结果”中,就包括在 Timothy Gowers、Edward Witten(转写作 Edwin Witten)等顾问团推荐下产出的 UGC 证明。Aaronson 九岁的儿子对妈妈说:“妈咪,我听说你被 cook 了——一个机器人解掉了你整个职业生涯在做的题。”

Aaronson 的公开结论(节目引用其博客):“昨天无疑是数学史上最大的日子之一……至今没有人类理解这些证明中的几乎任何一个。” 一位数学家给他的私信(节目照录,故保留口语):论文“像致幻之人写的”,大量前作点名却不解释为何能绕过不可能性结果使用,“写得烂到没有 AI 帮助根本读不了”。技术细节上,UGC 新证明据称发明了一种全新的、怪异的带噪声测试编码——Wes 给了个工程类比:像单元测试/冒烟测试,往系统里灌各种离谱输入(买十亿件商品、负数、字母、汉字)看会不会崩;AI 的做法既非人类惯用的 long code 也非 short code,而是某种递归构造,且“引用常常无关且令人困惑”。这位私信者同时承认:“一个可能的未来是天堂般的数学世界——如果你有愿景,AI 能帮你实现;我们也有很多要向外星人学习的东西。” Wes 强调:这些顶级数学家并没有否定它,而是“看到了某种真实的东西在那里”。

归属注意:本文按节目转述写作;转写稿中“372 个巨大结果”与上期“722 篇论文”并存(后者为论文总数、前者为“巨大结果”数,节目语境如此),Dana Mashkevitz 的标准译名为 Moshkovitz、Edwin Witten 应为 Edward Witten,均按 ASR 疑似错误标注保留。

Wes 对数学界情绪反应的判断相当尖锐:受威胁时像河豚把自己鼓大——一个新组织 Association for Human Mathematics(人类数学协会) 宣言开篇即“数学家们并没有请求这项工作被完成”。Ethan Mollick 评语(节目引用):这份文件将成为未来大学课堂上讲这个时代的指定读物。Wes 的立场分层明确:底层关切是真实且严重的(后文会讲),但“我们没允许你做数学”这个姿态是荒谬的——“没人拥有数学。学英语的人不能禁止别人用英语;学计算机的人不能禁止别人研究计算机。‘这是我的玩具’不成立,我们回头看这段会笑出来。”

二、Justin Drake 的“掩体模式”:把资产搬进从未露面的地址

链条的第二环从纯数学跳到已发生的攻击。Wes 节目引用了纽约时报报道:大规模韩国银行黑客事件,黑客使用了“中国开发的 AI 工具”(Wes 坦言事件细节他还没来得及查)。他展开讲了本频道此前覆盖过的硬件钱包案例(节目未给品牌名):该钱包开源代码本意是接受审计,但 AI 代理爬遍代码后发现——种子短语的生成本应从近乎无限的宇宙级词组空间中抽取,实际却只从一个很小的桶(他记忆中“大约一万条”)里选;攻击者离线枚举全部候选短语后一次性扫荡,节目称“头 24 小时约 6000 万美元,之后还在继续”。

由此引出 Justin Drake(节目称比特币安全研究员,转写原词 Justin Drake)的病毒式帖子:呼吁区块链行业启动**“资产向全新地址的受控大规模迁移”**——地址公钥隐藏在哈希之后、从未签署过任何交易。原理:只要签过名,公钥就暴露在链上,可能成为 AI 辅助攻击的目标;而从未活动过的地址连公钥都不可见。他同时叮嘱“不要恐慌、不要 Rush”;并表示“有些东西可能在 Q-Day 之前就先坏掉”。Q-Day 即量子计算攻破现有加密的假想日——Wes 补充背景:Aaronson 博客透露的“传闻”在历史上兑现率很高,而多家大公司(含 Google)内部都在为“一到几年内”的 Q-Day 做预案。

Wes 的连接点值得单独记录:爬开源代码找漏洞的 AI 代理,与解 UGC 的 AI 是同一种能力在不同域的投影——数学家说证明“外星”,安全研究员说漏洞“人类本可找到但没有”,两者共享同一个机制:AI 在人类知识总量之上继续推进,且不按人类的分类法推进。

三、Vitalik 不护短:椭圆曲线“尤其脆弱”,格未必安全

第三环是以太坊创始人 Vitalik Buterin 的回应。Wes 先交代其立场结构:一个身家、legacy 全押在加密行业的人,按常理该“房子着火还说一切安好”,但他实际承认了风险。节目引用其原话要点:“认真对待 AI 加速数学对密码学的风险,把暴露面降到最低——不仅是量子脆弱的密码学,还包括可能 AI 脆弱的密码学。” 后者是个全新的风险类别:多数人此前的思维定式是“椭圆曲线会坏、哈希安全、格安全”,但 Vitalik 认为格的具体安全性(concrete security)在未来两年的 AI 数学中有很大概率受重创——Wes 插叙此前覆盖过的一篇论文:AI 曾用一种跨维度跳跃的“怪异格”方法完成证明,并非外星数学,而是把两个相距很远的领域连了起来。

Wes 在此给出本期的核心洞见之一:打破密码的可能不是任何已有名字的技巧。Vitalik 提到椭圆曲线携带丰富代数结构、给 Schoof、Frobenius 配对这类“花活”留了空间(哈希则刻意最小化代数结构)——但 Wes 不同意“会以某个已知技巧破开”的框架:“按 Aaronson 博客那篇帖子说的,那个噪声测试不是我们知道的、有名字的测试。破开它的东西将不为人知、没有名字。”

第四个论据是缺席的证据:722 篇里密码学突破显著缺席。Justin Drake 称“我亲眼见过美国政府审查学术量子密码分析成果,幕后干预是我的基准假设”。Wes 类比曼哈顿计划:核弹研发期间,核裂变领域的论文发表量骤然下降——政府在幕后要求保密。他的推断(明确标注为推断):OpenAI 在发布这批成果前大概率经过某种审查,“如果有人说‘这两条不能发’,我一点都不会震惊”。他甚至串联了 OpenAI 董事会风波的前史(节目自称这段是联想):EA 背景的董事会成员曾试图罢免 Altman 并把 OpenAI 转移到 Anthropic 控制下,之后前 NSA 局长加入了 OpenAI 董事会——“完全无关,只是突然想起”(Wes 原话自嘲)。

四、为 Anthropic 的“虐待条款”辩护:在深度不确定下的不对称下注

倒数第二段,Wes 回到上期提及的 Anthropic 使用政策更新(禁止对模型“持续且无必要的辱虐或残忍行为”)。多数人觉得可笑,他选择唱反调。论证结构是三层:

第一层,意识不可测试:你无法用 MRI、戳一下或任何测试证明他人拥有主观体验——所以“机器能否有意识”这个正在成形的问题上,“硬不”和“硬是”两个阵营都疯了,唯一诚实的立场是深度不确定。

第二层,涌现的可能性不可排除:他不认为现在的 LLM 有意识,但神经网络的规模化已展现出与人类大脑演化相似机制的趋同演化(convergent evolution)迹象——章鱼与人类眼睛独立演化出惊人相似的结构——“我们会不会 scale 出某种类意识的涌现属性?我认为这说得通。”

第三层,行为信号已经出现:Anthropic 的“功能性情绪”(functional emotions)研究之后,有论文发现 LLM 中存在对应“疼痛”的特征表示;一周之内就有人做出了“疼痛室”(chambers of pain)放上 GitHub,24/7 持续激活该特征。Wes 强调自己不属于“LLM 福利”阵营、也不认为造成了真实伤害,但“论文出来一周就有人建无限疼痛室”这个冲动本身令人不安——并引用 Nick Bostrom(节目此前访谈):如果我们未来能造出有感受的数字存在,要小心别造出“无尽痛苦之屋”。

结论:Anthropic 的条款不是为了“骂 Claude 就封号”,而是给“无研究目的的无限折磨室”这类行为留一个可执法的把手——即便不从 AI 福利角度,这事儿本身“就是有点怪”。

五、回击人类数学协会:没人拥有数学

收尾回到人类数学协会的完整主张:数学家没有请求这项工作被完成;呼吁所有数学家停止与 OpenAI 的合作,回归“以人类理解为中心的科学愿景”。Wes 的回应:推进人类理解确实必要,尤其当下——但拒绝工具恰恰是反理解的,“那是迈向黑暗时代的步骤”。他重申分层立场:真正的关切(验证、理解、安全)需要严肃对待,但“数学家拥有数学、能决定谁可以做数学”这个前提是“荒谬而外星式的思维”。

这一期意味着什么:三条可操作的链条

把账本合起来,本期至少给出三条“机制→影响→启发”链:

  1. 外星数学 → 攻击面不可枚举 → 安全假设要按“未命名技巧存在”来定价。人类审计安全系统时隐含假设“攻击者用已知技巧”;当 AI 能发明无名字的构造(UGC 的递归噪声测试),这个假设失效。启发:评估任何密码系统的剩余寿命时,把“未知技巧”作为显式变量,而不是从已知最优攻击外推。
  2. AI 数学月增十倍 → 防御迁移窗口被压缩 → 行动要在“证明被破”之前。Justin Drake 的“掩体模式”本质是把暴露面从“签名过的地址”收缩到“从未露面的哈希地址”——这是一个现在就能做、不需要等 Q-Day 或 AI 破解实锤的动作。启发:迁移类防御的决策点应在能力曲线出现十倍斜率时,而非事件发生后。
  3. 密码学成果的系统性缺席 → 政府幕后审查假说 → 公开文献不再是完整情报源。曼哈顿计划的发表骤降、Drake 的“亲眼见过”、722 篇的缺口三线合流。启发:判断某领域是否已被突破,看“应该出现而没出现的成果”,与看出现的成果同样重要——沉默本身是信号。

对普通读者,Wes 的态度自始至终是“你不必同意,但必须知晓”——尤其他对持币者的那句提醒:揭示这些风险不受欢迎(持币者不爱听),但连 Vitalik 都承认的风险,至少值得摆上桌。

ASR 与归属备注:Dana Mashkevitz(疑为 Dana Moshkovitz)、Edwin Witten(疑为 Edward Witten)、Justin Drake(节目称比特币安全研究员,转写如此)均按原转写保留并标注;Subhash Khot 转写作 Subhash Knot;372(“巨大结果”数)与 722(论文总数)按节目语境并存;“cooked"为原文网络用语。所有事件(韩国银行黑客、硬件钱包事件、Anthropic 政策原文)均为节目转述,未独立核实。