前沿实验室开始谈论"不该越过的智能水平"：The Curve 会议、内存墙创业与品味经济

信源说明：本文基于 Cognitive Revolution 频道 2026-10-06 发布的 AI in the AM 早间节目（视频 ID bBGz-1Mqorw，全长约 2 小时 40 分），嘉宾为 Positron AI 联合创始人 Thomas Sohmers（转写作 Thomas Sommers，经核实公司创始人通译 Thomas Sohmers）与 AI Engineer / Latent Space 联合创始人 Swyx（Sean Wang）。会议见闻部分为主持人（Nathan 与另一位主持人，转写作 Prakash）对 Chatham House 规则下私下交流的转述，均不具名；文中所有判断均标注归属，未做独立核实。

先说结论

这期节目捕捉到三个正在同时发生的转折。第一，前沿实验室的私下共识正在从"AI 会不会很强"转向"我们该不该让它这么强"——据主持人转述，一位前沿实验室高管在 The Curve 会议上明确说"可能存在一个我们不该越过的智能水平"，并对 10^27 FLOPs 量级的预训练上限设想回应"这也许合理"，这是主持人首次听到前沿实验室领导者对硬性算力上限松口。第二，算力瓶颈的形状变了：内存（容量与带宽）而非 FLOPs 正在成为推理成本的主导变量，Positron 用商品级 LPDDR5X 内存加高带宽利用率架构切出一条与 HBM 阵营不同的路。第三，个体杠杆与组织摩擦同时放大：Swyx 一边给产出"Claude slop"的员工上绩效警告，一边得出"token 支出本质是资本支出"的判断；节目结尾的 3SUM 突破与 mega-retraction 预期，则把这个杠杆延伸到了科学共同体本身。

一、The Curve 见闻：共识在收敛，裂缝也在变宽

节目前半段是主持对 Light Haven 庄园 The Curve 会议（第三届）的复盘。这个会议的定位是把"短时间线派"与"AI 是普通技术派"、硅谷与华盛顿放进同一个房间。据主持人转述，两年来最大的变化是共识收敛在一件事上：AI 确实会变得非常强大，“等泡沫自己破掉"的期待基本消失，连会上预期最保守的人也承认"它要做的事多得吓人”；剩下的分歧转移到了 RSI（递归自我改进）会不会"失控式起飞"这类问题上。

但真正的新闻在几条私下交流里。据主持人转述（Chatham House 规则，不具名）：

  • 预训练继续交付。 一位前沿实验室高级主管表示，基础能力层面模型仍在持续变强，没有明显的停止点；scaling law 甚至可能因数据质量提升而"向上弯折"。做法上，合成数据在实质起效——把推理 token（测试时计算）的产出转化回预训练数据，喂给下一代模型，主持人认为"这就是递归自我改进正在发生的一种方式"。这位主管还认为，最新前沿模型已经具备做出范式级突破所需的"难以言传的研究品味"（ineffable research taste），当前瓶颈是 elicitation（引导/激发）问题——RL 还没能把它充分引出来，所以需要一万个 agent 去撞千年大奖难题这类可验证问题。
  • “可能存在不该越过的智能水平。” 同一位主管的原话大意为：很可能存在某个智能水平，我们不应越过——主持人强调这是他第一次从前沿实验室领导者口中听到不加修饰的此类表述，虽然"是永不越过还是暂不越过"仍然模糊。主持人随即追问如何操作化：是否可以签署"下一次预训练不超过 10^27 FLOPs"之类的限制？预期中会被驳斥的稻草人提议，得到的回应却是"这也许合理"。主持人补充了操作化的难点：数据富化本身也消耗算力，很容易玩"藏算力"的把戏，怎么计数是核心难题。
  • RL 环境产业是一条蒸馏管道。 会上流传的解释是：真正推前沿的只有两三家（Gemini 4 宣布后重回"三强"格局），通常被认为在前五的 Elon（xAI）与 Zuck（Meta）实际上在大量蒸馏——不是直接调 Claude API 抓轨迹，而是通过一个新兴产业：RL 环境作坊用 Claude 生成 RL 环境，卖给各家前沿模型公司，后者在这些"只因 Claude 足够聪明才存在"的环境上做内部 RL。据主持人转述，这解释了 Anthropic 融资材料里"2026 年前后最好的模型将无人能追上"的旧预测为何落空：如果不是模型持续发布、加上这些直接间接蒸馏泄漏，差距本可能真的拉开——其他公司保持的只是"恒定的跟车距离"。
  • 关于 Elon 与时间线。 主持人转述会场的通行看法：Elon 因人才流失不被视为模型层的严重竞争者，但他在押注基础设施——TerraFab、SpaceX 卫星都是 2029-2031 年尺度的事；相比之下 Anthropic 与 OpenAI 内部的时间观更短，会上甚至很少听到 2028，更多在谈"关键时期就是现在开始的一年"。另据主持人提及，Anthropic 正急于推进 IPO（从 10 月底推迟到 11 月第一周），动机不明——融资需求、财富分配或其他，会上并未讨论。
  • 算力用途的再平衡。 主持人引用 Jensen Huang 在 Ezra Klein 节目里的比例（英伟达 20% 精力设计芯片、80% 用于验证测试），并就"未来多数算力是否要用于安全"追问与会者，得到的回应是"方向合理"。链条思维监控正在退潮，内部激活监控的算力占比已经在显著上升且可能大增。另一大块算力正在花在清洗 RL 环境上：脏环境奖励作弊，模型就学成"作弊者"；现在实验室用自家最强模型去攻击自家环境，找到漏洞就修或弃，逐步压低可作弊率——据主持人转述，他们已经接近看到一条"作弊的 scaling law"（原话称还是 proto-scaling law），环境越干净、下游作弊率越低。这意味着未来一两代模型仍能靠这类"低垂果实"做到既更强又敢发布，但再往后"一切皆不可知"。

二、Positron：绕开 HBM 的内存墙生意

第二段嘉宾是 Positron AI 联合创始人兼董事长 Thomas Sohmers：2013 年 Thiel Fellow，此前创办过处理器创业公司 Rex Computing，历任 Lambda 首席硬件架构师与 Groq 技术战略总监。Positron 2023 年 4 月成立，15 个月就从冷启动发出第一台 Atlas 服务器，三年拿下 Oracle——据嘉宾称已部署超过 50 个 Atlas 机架；刚完成的 C 轮由 Valor Equity Partners、Atreides Management、NEA 及 Netscape/SGI 联合创始人 Jim Clark 领投（嘉宾特别澄清：Oracle 是客户不是本轮投资方），另有 VentureTech Alliance 参与——这是一只唯一 LP 为台积电的基金，因此台积电也成了股东。

为什么内存是核心。 Sohmers 的判断是：模型变大吃内存，上下文长度和并发 agent 数又把内存需求乘上去——他自己后台常驻的 agent 从三四个月前的 2-4 个涨到 15-20 个，“每个都是完全独立的上下文”。这叠加成节目标题所说的"内存墙"。Positron 的应对是反主流的：不用供不应求的 HBM，而用手机、笔记本同款的商品级 LPDDR5X，与 Credo 合作做内存 chiplet，把通道数做到 72（据嘉宾称其他产品通常在 12-16 通道）。

架构上的代价与回报（以下均为嘉宾陈述）：

  • 带宽利用率。 据嘉宾称，英伟达 GPU 在 transformer 解码前向中实际内存带宽利用率约 30-40%——B300 标称 8TB/s，实际约 2TB/s；Positron 第一代产品能持续跑出理论带宽的 93%，“理论值和实际值基本合一”，单此一项就是约 3 倍差距。
  • 容量与分片开销。 下一代 Asimov 芯片单芯片内存容量最高 2.3TB，对比 B300 的 288GB 是 8 倍；嘉宾称英伟达下一代（转写作 Ribbon Ultra，应为 Rubin Ultra）反而会把容量砍到 192GB。单芯片装下原本要 8 张 GPU 分片放的模型，就消灭了每层 all-gather/all-reduce 的通信与工程开销。
  • 内存涨价。 Sohmers 给出实感数字：一年零一周前的内存报价，现在涨了 4.5 倍，而且他"不会意外"明年再翻倍。但他认为这不伤竞争力——因为大家同船涨价，且单位内存对应的模型能力一年提升远超 5 倍，价格机制仍在把内存分给最高价值的应用。

关于 loop（层循环）的硬件账。 针对主持人的问题（为什么循环前向传播流行、与内存什么关系），Sohmers 给出的纠正是：loop 主要省的是容量不是带宽——10 层循环两次与 20 层唯一权重相比，权重和每用户 KV cache 都减半，但每次循环仍要搬同样的字节数、做同样数量的矩阵乘。他顺带梳理了这条谱系：开源社区几年前就把 Llama-7B 复制层做成"100B 参数"模型并观察到变强；GPT-6（据传闻，转写作 GPT-6 Astra）被认为用了重复前向；更早有 Medusa heads 与多 token 预测——两 token 只花 1.1 token 的成本，以及 early exit、按不确定性回选专家等"层内路由"玩法。他还提到一个取舍：一年前没料到线性注意力会在（尤其中国）开源生态火起来，所以没做相关优化；他判断美国大实验室并未像中国同行那样被迫转向 MLA/DSA 类技术——后者是被硬件供给约束逼出来的创新。

AI 加速芯片研发本身。 这可能是本期最"递归"的部分：Sohmers 说他们的 Asimov 项目设计/验证时间比约 60/40，而真正"三到六个月前还不可能"的事是用 Cadence Palladium 门级仿真器做闭环验证——软件 RTL 仿真约 10Hz，全芯片门级仿真约 500kHz，差几个数量级；GPT-6 与 Opus 5.5 发布后（转写原文如此），agent 能拿到 Palladium 的完整内部权限、自己翻文档、生成 markdown 速查表、搭测试 harness、闭环迭代出报告再交人类与其它 agent 复核。“六周前，GPT-6 出来之后，这是阶跃式的改进——GPT-5.6 做不到全程闭环。“但被问到是否见过 AI 的"意外创新"时，他坦承还没有：模型至今没参透他们人类设计师的巧思（比如为什么不做传统脉动阵列），他"为此有点骄傲”，但不确定还能守多久——理由不是模型会突然更聪明，而是它迭代太快，可能靠穷举撞到同样的结论，如同他转述的 OpenAI 解 Navier-Stokes 的"一万 agent 暴力解"叙事。

一个刺眼的成本数字：Positron 的 token 支出已成为除制造外最大的单笔开支，且一度超过全员人力成本——GPT-6 发布后的高峰期每天花超过 10 万美元买 token，之后靠收敛实验与 Opus 5.5（约四分之一价格、多数任务更好）降了回来。他提到公司内部少量用 GLM-5.3（转写原文如此）做本地推理，但他的哲学是：真正的软硬开发任务绝不用非最强模型，“便宜十倍也不值”。

供应链上，Positron 是罕见的台积电直客（COO Bernie——转写如此——是台积电 1987 年北美第一个客户，这是他的第 13 家创业公司），且刻意停在 N3P 制程不追最先进节点，把真正的瓶颈（内存）用商品化路线绕开。

三、Swyx 与品味经济：当 slop 可以被雇佣

第三段嘉宾 Swyx（Sean Wang）先讲了 AI Engineer 大会（10 月 12-14 日，纽约，主打银行/投资/保险/金融科技）的选题逻辑：代码是第一个"可验证知识工作"的突破口，金融是下一个——他自己走过 Wharton、卖方期权交易员、买方量化基金经理再到科技的路径。判断依据之一是各家实验室都在为金融垂直优先建插件与 FDE（前线部署工程师）团队。

更有-transferable 的是他对"AI 工程师就业市场"的第一手观察（嘉宾自述，含其作为雇主的经历）：

  • Jevons 悖论成立，但只对一种人成立。 会用 agent 产出真东西的人需求空前；产出"Claude slop"的人在被绩效警告。Swyx 自述手上有两三名员工因交付 slop 处于绩效审查中，且他们自己意识不到差距。他的原话：“我可以付钱让自己经历 LLM 精神病，但我不会付钱让你去经历。“他给的一个判据是深度洞察 vs 覆盖广度：比如汇报"视频周环比涨 14.7%“却答不上为什么——用 Claude 分析了自己从没看过的视频，“工具在替你思考”。他还讲了雇外部机构做发布视频收到明显 slop 的经历，结论是这类服务在筛选"标准低的客户”。
  • 简历上的编码年限越来越不重要——除安全岗与后端扩展岗（他举 Supabase 把 Postgres 扩到前所未有规模的例子：“全世界只有一个人能做，他们把那个人招了”）。语言经验甚至可能有害：老手只有一套固定做法，不懂同时驾驭多个 agent。现在应该能同时 jugg 五到十个进行中的事项，“你更多是经理而非个人贡献者”。看数据（日志、trace、schema、输入输出→做成 eval）的人比看代码的人更值钱。
  • 看模块，不看行。 二三十年经验的工程师过去逐行求理解；现在只需模块级理解，模块内部可以容忍 slop——前提是你完全理解整个系统。他给了个自己造 Slack 竞品时踩的 bug：同一段代码刷新一次消息加载、再刷新不加载，排查发现是两个不同 coding agent 在不同时间写了两条代码路径造成竞态——人类不会这么写，agent 会，“需要有人对模块保持监督”。

基础设施侧的判断（嘉宾观点）：最被一致报告的短缺不是 GPU 也不是内存，而是 CPU；agent 需要的是可暂停、可恢复的长时状态执行（他自己在 Temporal 做过，Restate 等同赛道），加上带宽/延迟优化与云-边分布（机器人公司是全员的先兆）。他给出的个人度量是"token 带宽”：他自己约 2000 token/秒（跨所有 agent），Cognition 量级约 2 万亿（他强调是粗估）。组织管理的新极限：领先公司年招聘上限约 100-400 人，卡点是没有足够管理者；万人级公司则干脆按数字管理团队（Amazon GM 制类比，“团队不行就整组换掉”，Jensen 60 个直属、零 one-on-one），中间的 2000-10000 人区间是管理真空——主持人与嘉宾都猜测这个真空将由 agent 填充。

Kill My SaaS 是本期最生动的案例：Swyx 因为不满一家活动管理 SaaS 的性价比（“三分之一到二分之一个人的年薪，买一个没人爱用的软件”），发起一万美元悬赏让观众 vibe code 复刻。结果与教训：投稿极多但质量参差，eval 成了瓶颈——要按主办方/参会者/赞助商三种视角全流程测 UX，团队写了 200 页流程文档，用 computer-use 做逐流程 side-by-side 对比；第二天他就给参赛者 ship 了 eval 工具。他最"老派"的活动运营团队（用表格、对接工会、摆物理展板的那批人）起初拒绝 vibe code，看到投稿质量后主动要求迁移，并靠 Devin 通道把需求改动周期从"排在别家 Q3 路线图"压缩到 1-2 小时。他的结论：“如果你主要是 CRUD 应用，SaaS 已经熟透（cooked）"——但别看 SWE-bench 90 分就以为模型什么都会，真正去全流程 vibe code 一个 SaaS 才知道模型还很差。至于软件总盘子：他把 TAM 扩展到"所有表格、电话、邮件、见面"都能变成长尾定制软件（Salesforce 30 万美元年订阅 vs 3 万美元自建 CRM），终局是软件像手袋一样按品牌与 vibe 区分（Kate Spade vs Louis Vuitton）——“我们软件的定制化程度还不如手袋”。

关于 Jeff（ calibrated 决策模型，创始人是他认识四年的 Diogo——转写另有 Diego 一处）：他认为类别创造极其成功（他们做了 Jeff 发布后第一个播客，成为 Latent Space 史上收听第一），但提醒 Twitter 上的多数用例是过热的——本来任何小模型/分类器都能做；真正的定位是 system-one 模型，“要像 if 语句一样不起眼地嵌进你的软件”，而多数人并没有这么用。OpenAI DevDay 的 Decisions API（他参与了试用）被他描述为"Luna 换一层推理”（Luna 为转写原文所述模型名），不是同一个东西。

四、3SUM 周末、nanoGPT speedrun 与 mega-retraction

节目末段两位主持人对谈，覆盖了一个"数学大周末”：

  • Claude 破 3SUM 的 n² 界限。 据主持人转述：3SUM（三数之和是否为零）的下界问题悬了约二十年，新结果把复杂度做到 n^1.99992——数字本身"没有立即可用的影响”，但破壁效应重大（类比四分钟英里）。发现路径很戏剧化：一位 Anthropic 员工让 Claude 解一个依赖 n² 下界成立的密码学题，Claude 顺手把下界本身破掉了。发表方式更具争议：Anthropic 找了两位该领域数学家，付费请他们把解法整理成可读论文并以第一、二作者署名，Claude 列名、资助事实写在第 63 页——这被称作数学界委员会推荐的未来流程，但社区不安明显。主持人说仅那个周一就有二三十个数学成果落地，“大家周末烧 token，周一放证明”。
  • nanoGPT speedrun。 这个"最快训到目标 loss"的经典榜从约 70 秒被一次腰斩——超过此前 45 次改进的总和；随后又有接近再减半、乃至声称进入 10 秒内（仍在审核）的提交，其中一些手法被质疑 rules-lawyering。被接受的这一次作者明说 AI 不是核心贡献（呼应前述"elicitation 问题"）；据主持人称，该公司（Hyperstition）内部还藏着更好的优化器没公开，这次刷榜本质是性能营销。
  • 人效与组织。 主持人引用其 Gemini 估算（明确标注为约数）：Cursor 被收购时约 300-500 人、人均营收约 1000 万美元，对比 Meta/Google 的 100-150 万、OpenAI/Anthropic 的 300-500 万；OpenAI 与 Anthropic 都倾向招创业过的人自驱（Rippling 的整条业务线交给前创始人的策略被类比）。Login with OpenAI（DevDay 发布，让用户把自带 token 带进 SaaS）被主持人视为可能的大变量——当你的订阅大头是在替用户烧 token 时，让 token 跟人走会改写人效公式。
  • “需要几个自己”。 主持人复盘 Ajeya Cotra（转写作 Ajayakatra）式问题——“不用 AI 的话，需要几个你来追平现在的产出”：他 5 月答 2 倍，现在改口 4-5 倍，软件开发域"12 个 prompt 等于几周工作"根本没法算；另一位主持人估 10 倍。后者给出一个有迁移价值的框架：我们为自己造的东西分两类——感官器官（如 Swyx 的 AI News：把 Discord/arXiv 等噪音压缩成可读简报，社区晨间 45 分钟变 5 分钟）与翻译层。这些造物是永久性替代：拿走 AI 就得连带拿走这些 affordance，用真人回填——所以真实的"自我倍增率"远高于直觉，“花掉的 token 是 capex，你给自己攒下了资本资产”。
  • AI for science 与 mega-retraction。 据主持人转述 The Curve 的共识：超人性不必全域泛化，而是"凡认真投入的领域都能做到超人类"，下一步是 AI for science；有人放话"不超过一年，没有 AI 深度参与就做不出最好的科学"。两位主持人由此推演大规模撤稿（mega-retraction）：他们估计三至五成科学论文不可复现（主持人自估，非节目引用数据），实验室内部大概率已在用处理 RL 环境的方式给文献"验毒"；期刊端出现的原始数据抵触情绪，本质是不愿被重新分析。主持人以斯坦福前校长 Tessier-Lavigne 因图片造假辞职为例指出——那还只是图像识别级别的核查，推理模型入场后冲击会更直接，且"会点很多名字"，学术界的社交反弹可以预期。反例是医生：一位从事 AI 医疗建议的从业者告诉主持人，医生群体与 AMA 对 AI 的接纳度远超预期，OpenEvidence 一类工具显著缓解了"患者先 Google"带来的压力——“科学界的处境更个人化，所以会更难”。

读者启发：四条机制链

  1. 内存墙→系统创新机会：HBM 供给受限+内存一年涨价 4.5 倍（嘉宾称）→ 推理成本由内存带宽主导（B300 实际利用率仅 30-40%，据嘉宾）→ 商品内存+高利用率+大单芯片容量（8 倍于 B300）切出 TCO 生态位 → 观察指标：LPDDR 通道数/单芯片容量、agent 并发数（嘉宾自述 2-4→15-20）、各厂内存砍配动作。启发：当瓶颈从 FLOPs 移到内存，差异化机会从追制程转向系统架构与供应链站位（台积电直客+N3P）。
  2. RL 环境产业=蒸馏管道：前沿能力通过环境市场化外溢 → “一家独大甩开所有人"的预测持续落空、行业保持恒定跟车距离 → 前沿优势难以完全货币化，竞争焦点移向数据、环境与分发 → 观察指标：RL 环境供应商融资、开放权重的企业采用率。启发：权重之外的"能力载体”（环境、trace、工具链）才是护城河，也是泄漏点。
  3. token 从费用变资本：token 支出超过人力成本（Positron 峰值 10 万美元/天，嘉宾自述）+ agent 对基础设施 500:1 的消耗（Swyx 估）→ 人效门槛被推到数百万美元/人 → 组织在 100-400 人/年与"按数字管理"之间出现管理真空，由 agent 填充 → 观察指标：人均营收、招聘上限、Login-with-OpenAI 类协议的普及。启发：把 token 预算当 capex 管理——沉淀下来的感官器官与翻译层是可复用资产，纯消耗的 slop 不是。
  4. 可验证性→科学信用重构：模型在可验证域（3SUM、密码学假设）展现破壁能力 → 文献可信度将被系统化分层 → mega-retraction 冲击个体职业生涯与期刊权力结构 → 观察指标：AI 署名/披露规范、期刊 raw data 政策、大规模论文核查工具的出现。启发：在不可验证域建立"人的品味"溢价（Sohmers 的巧思、Swyx 的 taste）与在可验证域尽快上车，是同一枚硬币的两面。

不确定与保留：The Curve 全部内容为 Chatham House 规则下的不具名转述，无法独立核实；Gemini 对 Cursor/OpenAI/Anthropic 人效的数字为主持人引用的估算；“GPT-6 Astra"“Ribbon/Rubin Ultra"“Mythos"“Luna"等名称以转写原文为准（Ribbon 疑为 Rubin、Garmin 疑为 Garman 已在文中按上下文校正）；Diogo/Diego 为同一人的两种转写。3SUM 结果、Navier-Stokes 叙事、Anthropic 付费署名流程均为主持人陈述，本文未做外部查证。