推理的瓶颈正在从算力转向带宽：每生成一个 token，都要把整个模型从存储介质读一遍。硅谷101本期请到两位正在做推理芯片创业的嘉宾——Bill Dally 的博士生 Mark 与前亚马逊 Annapurna 芯片软件栈科学家子阳，拆解 Groq 的静态调度、Cerebras 的晶圆级集成与 OpenAI Jalapeño 的 HBM4 通用路线为何是不同约束条件下的各自最优解，为什么中国关心 tokens per dollar 而美国关心 tokens per watt，以及推理速度如何决定模型智能的上限。
《晚点聊》编辑部红浩与曼奇复盘"蒸馏"这一没人愿意公开谈论的技术竞赛：典型蒸馏是有门槛的"抄答案"，含账号运营、数据管线、防中转站反被坑等系统工程；张一鸣为何禁止字节蒸馏——“只能逼近不能超越"加上组织激励代价；Anthropic如何用行为指纹识别2880万次"史上最大规模蒸馏攻击”；学生能否超越教师仍是开放问题；以及比蒸馏更大的问题——智能供需错配下"够用了"的模型正在改写定价逻辑。
Jeff Dean 带三位谷歌元老出走创立 Discovery Loop 当周，前 DeepMind 科学家、Unreasonable Labs 联合创始人曹原在硅谷101拆解 AI for Science 为何在此时爆发：代码与数学能力到位后科研成为下一个智能爆发点，但真正的瓶颈从建模移到了物理世界的验证环节；LLM 无法凭训练数据产生真正新的科学概念，概念抽象可能是 AGI 的"最后一公里"甚至不可计算；他主张 AI and Science 而非 AI for Science——科学难题是驱动 AI 本身进化的催化剂，并给出"AI 拿诺贝尔奖至少还需二三十年"的长期判断。
深度精读 arXiv:2608.09867——主流 LLM 提供商隐藏的加密推理块被全面击穿。论文发现加密块在跨会话、跨用户、跨模型间完全可互换，攻击者可借弱模型之手解码强模型加密推理，绕过反蒸馏机制；从 31 万公开推理块中恢复出 367 条 PII 和 182 条凭证，并可实现不可见提示注入。负责任披露后提出加密层与系统层双重缓解方案。
前Meta FAIR研究员田渊栋创立Recursive Superintelligence（A轮6.5亿美元，估值46.5亿美元）后首次系统阐述RSI：它比coding agent大得多、难得多；完全自动化不会很快发生，递归会先发生；智能发展是S型曲线而非scaling law的平滑攀升，这恰恰给了初创公司窗口。他们的第一阶段成果在算子优化、NanoChat训练和NanoGPT SpeedRun三个方向取得SOTA，用一套通用系统击败了专业GPU团队。田渊栋认为AI终将从炼金术变成化学，可解释性是少数派但正确的路。
月之暗面K3是首个达到3T级别的开放权重模型，其47页技术报告揭示了一种"特修斯之船"式的架构哲学：注意力改成了线性+全局混合（KDA+MLA），残差变成了深度方向的Attention，FFN变成压缩空间的稀疏专家，甚至连位置编码都几乎被删掉。RadixArc创始成员赵晨阳和华盛顿大学博士生曾志远分别从Infer和算法两条线拆解K3：线性注意力在2.8T规模上实现了6.3倍解码加速，Quantile Balancing路由是3T稳定训练的关键之一，MOPD让九个领域专家模型高效合板，而KDA（Kernel Development Agent）证明RSI已在kernel优化领域高速运转。核心判断：权重只是一次训练的产物，环境才是能反复产出下一代权重的护城河。
月之暗面K3开源权重发布震动硅谷，开源模型首次在多项能力上追平甚至超越最强闭源前沿模型。两位嘉宾——前Hugging Face开源生态负责人王铁镇和TinyFace联合创始人TJ——深度拆解了"蒸馏"争议的技术真相、中国开源模型为何成本更低、Kimi License商业模式对闭源实验室估值体系的冲击，以及开源模型安全之争的真正焦点。核心判断：没有开源，才是这个时代最不安全的事情。
2026年Q2 AI季报深度解读：Anthropic与OpenAI的模型竞争进入新阶段，GPT 5.6与Claude Maestro/Phable正面交锋；RSI（递归自进化）从科幻概念变成明确的创业方向，Recursive、Miranda等公司涌现；Cursor以600亿美元天价被收购；中国开源模型"四杀"引发全球关注；Anthropic的Cloud Tag与OpenAI的Record and Replay重新定义AI交互。本文基于播客全文转写整理，涵盖竞争格局、RSI、机器人、智能扩散、交互创新和公司动态。