GPU 设计三个月、投产要九个月:Gelsinger 谈 AI 时代的硬件瓶颈大挪移

信源说明:本文基于 a16z 频道一期约 53 分钟访谈(视频 ID 1Q_7yU7FZ1k,时长约 3194 秒),嘉宾为前 Intel CEO/CTO、前 VMware CEO、现 Playground Global 普通合伙人 Pat Gelsinger,对谈者为 Raghu 与 Guido(Appenzeller?——转写仅给名,按音保留)等 a16z 侧主持人。开场白为节目从全片摘出的金句串烧。文中投资标的、技术判断均为嘉宾观点,未独立核实;转写疑似错误随文标注。

先说结论

Gelsinger 这期访谈的核心是一个反直觉的时序错配:AI 已经把芯片设计这件事变得「容易」了——他给出的思想实验是两个懂 486、懂 AI 负载的人配上 AI 工具,三个月就能拿出一个不错的加速器设计——但流片要三个月、先进封装三个月、机架集成再三个月,「设计三个月、能用要九个月」,等真正规模上量、软件跟上,你对 AI 负载的理解早已过时,Graphcore 就是「设计不差但世界走了」的前车之鉴。由此他推演出一整张瓶颈迁移地图:制造周期、内存(三十年没有新 major 内存)、供电(40% 功率耗在 guard band)、散热、再到国家层面的能源容量。对投资者的意味浓缩在他自己那句「每当技术让某件事变容易,瓶颈就挪去别处」——以及最后一个大抽象层的机会:为 agent 而非人类重建的「VMware」。

从 386 到 486:上一个「设计范式被重写」的时代

访谈以 Gelsinger 的个人史开场(120–360 秒段):16 岁意外获奖学金进职业技术学校、跳过高中最后一年半,18 岁 被 Intel 录用(面试官 Ron Smith 当天第 12 个面试他,笔记写「聪明、激进、傲慢——他会很合拍」),从技师做到 286 末期的设计团队、386 的第 4 号工程师、486 的架构师兼设计经理,期间读完学士、硕士、博士。两个学术八卦顺手带出硅谷气质:他在 Stanford 课上当场推翻教授新提出的超前进位加法器设计(「我两天后回来说:这不行」,而教授的书里正要印这个设计);他的论文导师是 John Hennessy(RISC 之父、后任 Stanford 校长),built-in self-test 之父 Ed McCluskey 的诸多想法也被他拿去 386 上验证「大多不实用」。

这段历史的功能是给当下做锚(360–480 秒段):486 是「现代 EDA 诞生」的地方——没有 Verilog,他们发明了 Intel 自己的硬件描述语言 IHDL 并自造编译器;没有自动布局布线,与 Berkeley 的 Alberto Sangiovanni-Vincentelli 及其学生合作做了最早的自动布局、布线与时序管理,「某种意义上他们创造了 EDA」。他判断今天正处于类似时刻:今天一家公司(转写音 Jalapeno,无法确证具体所指——疑为某 AI 芯片设计创业公司)正在做「第一性原理的 AI 进芯片设计」,多数逻辑功能已可交给 AI 工具,但模拟电路仍是硬骨头(需要大量流片数据,要么保守到可被 AI 化、要么只能硬做)。「未来回头看,这会是 AI 接管微处理器设计前的最后一代人。」

瓶颈大挪移:九个月制造、guard band 吃掉四成功率

承接「瓶颈挪移」律,Gelsinger 列出 AI 设计之后的真实瓶颈清单(480–840 秒段)。第一是制造时序:即便设计流程超级充电,「不到三个月出不了片」,再加 3D 先进封装「又三个月」,然后「nothing’s a chip anymore; it’s a rack」——什么都不再是芯片、而是机架——又三个月;要压缩它需要新形态光刻和不用先烧五千万美元 mask 成本的快速原型设计流程,否则「一年半后你的 AI 负载理解对不上你设计的芯片」。第二是内存:他的名言是「HBM 是一种糟糕的内存,只是我们手里最好的那种」——位密度差、受限于 shoreline 带宽、功耗与热(DRAM 不耐热)、一切挤在一处,而「AI 是内存计算型负载」。第三是供电与散热:今天的功耗仿真工具很差、缺好的 3D 功率建模,「我几乎给整个功率包络做 guard band」——约 40% 的功率耗在裕量上;散热手段同样原始。

百家加速器公司会收敛,理由有三

对「市面上约一百家 AI 推理加速器公司」的现象,Gelsinger 的判断是「这是暂时态,会收敛回少数」(840–1320 秒段),三个理由层层递进。其一,他不看好规模化层的特化(scale specialization):计算舰队正在按 prefill/decode/midfill(他提到 OpenAI 的 speculate-and-verify 方向)越切越细,「但历史上任何时刻出现这种粒度切分都不可持续」——等到推理模型时代,「人们又想要更像 CPU 的东西」;负载会继续漂移,今天为某一格 Pareto 曲线特化的芯片三五年后未必对。其二,模型本身临近演化突变:「LLM 正在接近极限」,对分子、化学、影像等 3D 领域扁平的 LLM 不适用,算法域的迁移会重排最优架构;他并预测最有趣的负载会把 HPC 拉回 AI——AI 模型筛出五个最值得跑的化学分析域之后,真正跑那些算法要 64 位高精度,「这对异构化是又一层反证」。其三,资本与规模:一百家公司不可能都赢,赢需要资本、需要负载上机;大玩家会直接选边——OpenAI、Nvidia、Anthropic 会说「我看好这一家」,且投的不只是硬件而是软硬协同演化。他顺带点评了 Nvidia 对 Groq 的动作(嘉宾表述):「两年后你分不清 Groq 在 Nvidia 里的哪一块——异构性会被抽象吞掉,而分层与抽象从来就是这么干的。」

主持人 Guido 提出值得记录的反方(1200–1320 秒段):历史上我们只标准化在一两套指令集上,是因为软件复杂度撑不起更多硬件平台;而 AI 正在改变这一点——他举例(转写音 Felipe,疑指某芯片公司案例)说「人类已经没法给这颗芯片编程了,但 agent 蜂群一夜之间能搞定,这就够了」。Gelsinger 承认这改变了瓶颈的位置,但坚持两条硬约束仍在:造出 rack 规模仍要一年半;让它有用需要「借我五百亿」级别的资本开支、数据中心与电力承诺,这些力量会压制异构性存活数量。

内存的文艺复兴、堆叠的甜点与被否的 PIM

内存部分是全场技术密度最高的段落(1320–1680 秒段)。Gelsinger 自述亲历至少五种新内存架构(Optane 是其中之一,「我们杀了它」——指 Intel 立项又砍掉),三十年里 major 新内存数量是零:DRAM、SRAM、Flash 之外没有了。但两件事变了:其一,内存在过去约五年从「赚一年亏四年」的暴力商品化周期行业,变成三大内存厂全部进入全球市值前二十(他更正主持人:不是几百亿、是「过去四年内存行业市值增加约 2.5 万亿美元」);其二,「AI 是内存负载」已是共识。所以他判断「三十年来第一次,内存创新近在眼前」:HBM 的 shoreline 带宽限制是根本问题,未来是堆叠——把内存与计算以全新结构拉到一起(他投的 D-Matrix 做存算协同,另提到 Cerabus(转写疑为 Cerebras 或其他,存疑)、以及一家 stealth 的新内存公司);新材料在涌现——铁电体、非电容型高密度内存、可堆叠的高性能高密度单元;低成本 Flash 路线他本人不看好(单元速度与性能存疑,MRAM 同理)。

堆叠高度的预测很具体(1560–2040 秒段):16 层、32 层「不是我的菜」——堆叠的价值随维度上升,意味着单层良率与堆叠工艺必须指数级改善,裂片(cracked die)再强的冗余设计也救不了;甜点是 3–5 层,内存堆叠 2 层或 4 层封顶;但把供电(Z 方向电源轨)、智能 RDL 布线层、三五族光学材料都算上,「我的标准封装已经约八层厚了——以今天的制造理解,这差不多是极限」。全光内存池(内存搬出封装、光互连)他明确反对:OEO 转换次数多、损耗大,算力侧每比特 femtojoule 已极优、通信侧每比特能耗差三个数量级,「为访问大内存池烧这么多功率,违背物理」。PIM(存内计算)同样被否:「PIM 的想法已经存在 25–30 年,25–30 年后它们还会悬在那里」——把计算塞进内存会约束负载,不如高密度高性能内存贴近真正的计算引擎来得普适。但 IO 光学化他是铁杆多头:「我 25 年前就宣布了铜的死刑,总有一天我会对的」;今天 scale-up 里铜已经在退化成越缩越短的波导,五米铜比一百米光还贵,28–29 年是 NPO/CPO 的产业转换点;他的复盘是「其实根本不该造 NVL72——工程奇迹、制造噩梦,行业多花了一年半才消化那头怪兽,这恰恰证明若光供应链更成熟我们今天能走得更远」;下一个千兆级 scale-up 需要 large radix,「没有光做不成」。网络形态随之改变:他引 Stanford 的 Nick McKeown(转写 McCune)——传统网络为「任何包去任何地方」设计,而 AI 负载是大而可预测的流,「这听起来像电路交换而不是包交换」,OCS(光路交换)与可预测流的结合是正确架构,scale-up 与 scale-out 的边界会「溶解」。

能耗即经济容量:违约已经开始

供电与能源部分以一句论断开场(2400–2760 秒段):「在 AI 数字时代,能源容量等于经济容量。」美国的成绩单被他批为糟糕:过去 10–15 年以关煤电的速率加可再生能源、全国能源容量持平——按他的论题即「国家经济容量平了 15 年」;近五年虽有大额流入,年增也仅约 4%。扩张的约束清单:所有可再生能源对中国供应链有深度依赖;燃气轮机交期已达八年;美国上一座并网的核反应堆是 20 年前(他投了核电升级方向的 Alva(转写如此))。结论是能源将成为 AI 的上限但不会让它减速:「为什么要新建数据中心、买一百万张 GPU,如果我发不了电?你会看到越来越多的数据中心项目违约,因为能源不会到位」——他称 Oracle 近期的表态(转写未展开具体内容)只是第一例,之后会有很多;资本方会开始自问「我真的有能源去背书我承诺的水泥、机架与 GPU 采购吗?」供给侧的创新点:800V 直流数据中心(「爱迪生的复仇」)、垂直 GaN 一步完成 800V→48V/12V/5V 变换(他投的 Vertical GaN?——转写如此)、固态变压器;更底层则要换物理——「CMOS 每 teraflop 的功耗在 Nvidia 最近五代芯片上是平的」,他投的超导计算公司 Snowcat(转写如此)号称功率性能可改善千倍。

「agent 的 VMware」:最后一个大抽象层

收尾段落把全片拉回软件(2880–3194 秒段)。被问「VM 又回来了」怎么看,Gelsinger 用第一性原理回答:计算世界的创新永远是「数据结构、算法、抽象」的组合,VM 抽象无论从基础设施层还是应用层实现,「永远值得在计算层级里占一个位置」。而真正的新命题由 a16z 侧主持人点出:现在的 VM 是给 agent 用、不是给人用的——form factor 变了、营销变了(要说服的是做选择的 agent)、可容忍的复杂度变了、启动速度变了,「人比 agent 有耐心得多」。Gelsinger 顺势展开「VMware for agents」的完整图景:VMware 当年管理计算层级的每个侧面——负载、网络、存储——agent 蜂群同样需要有人管理 agent、给每个 agent 建安全 profile、管 agent 的性能,「虚拟化与管理的每个基本元素都要在下一个计算层级上重造一遍」;设计约束倒转过来——「怎么抽象硬件与运维、服务 agent」,安全、性能、迁移都会有新形态(「vMotion for agents」);同时人类这一侧不能丢:设策略、写「宪法」(他直接引用 Dario 的 constitution 概念)、看 dashboard。他的收束句可作为全场的题眼:「抽象硬件与运维以服务 agent——这才是你在服务的根本东西。」

三条可跟踪的判断

从这些信息可以整理出三条观察线:其一,收敛时钟——百家加速器公司的整合是否如他预期在两三年内显形,标志性事件是大客户选边与并购(Nvidia–Groq 的整合深度是先行指标);其二,28–29 年光学转换点——NPO/CPO 供应链(激光器产能、封装内光学、耐高温光学)是否如期成熟,决定下一代 scale-up 的形态;其三,违约名单——他预言数据中心项目将因缺电成批违约,Oracle 之后第二、第三个名字是谁,将验证「能源容量=经济容量」这个论题的严肃程度。内存创新则是慢变量里的快变量:三十年来第一次,资本与技术同时站在同一边。