来源：播客访谈「Astra 模型发布，AGI 已经到来｜与 OpenAI 工程师赵迪的对谈：ChatGPT、Codex、Grok、大模型 Infra」（注：访谈主体围绕赵迪的职业经历与行业判断展开，标题中的"Astra"在转写文本中未构成独立话题；ASR 文本存在少量音误，人名与专名已按上下文校正）
先说结论：这是一期信息密度很高的工程师访谈。赵迪现任 OpenAI member of technical staff，做 data infra 与 ML infra，此前在 Twitter/X 待了近七年，用业余兴趣写出的推理引擎最终统一了全站的广告与推荐 serving。他对马斯克的评价是这期节目最锋利的部分：认清了他是"the biggest asshole"，但依然敬佩，因为这个人真的能把"不可能的任务"变成现实。更值得记住的是他作为一线 infra 工程师对当下的判断：推荐系统时代的 inference 优化思路在 LLM 时代几乎原样复用；Codex 类工具普及后，工程师的价值从代码量转向问题定义与系统直觉；模型好坏没有统一标准，“快而听话"与"慢而聪明"会长期共存；而 ChatGPT 3.5 是唯一的"零到一”，之后的 Agent 浪潮都只是"一到一百"。
一、25 年，每一步都踩在浪尖上
赵迪的职业履历在主持人逐年份复述时显得近乎不真实：2001 年在 Oracle 做了六年 principal，2011 年在 FinTech 盛行期去摩根斯坦利做实时风险系统，2014 年回到湾区赶上了 Salesforce 的 SaaS 巅峰期，2016 年在 Fanatics 做推荐系统，2018 年在 Netflix 做大数据，2019 年加入 Twitter（后来变成 X），2025 年初加入 OpenAI。企业软件、金融实时系统、SaaS、推荐、大数据、大模型—— quarter 世纪里的每一个科技浪潮，他都在场。
但他本人否认这是主动踩点。“很多时候就好像一个球落在一片叶子上，事后看为什么会落在这片叶子上，实际上不落在这也会落在那。“他把这描述为"双向奔赴”：人会朝自己最感兴趣的方向走，而幸运的是他感兴趣的方向恰好一直是最前沿的。
这段履历里他真正的转折是自我认知的收敛。他承认自己年轻时在"想做这个、想做那个、想当 manager、想当 IC"之间反复摇摆，花了很长时间才确认自己喜欢的是工程效率问题，也就是 infra。“了解自己是什么样的人，选一条路踏踏实实做下去，不被外面的噪音 distract”，这是他给出的职业建议，但他也坦承这有代价：比较强的人（他举的例子是马斯克"三岁就决定做火箭”）会很快 converge，而他花了很长时间。
对"宇宙中心"的祛魅，他的描述很平静：进 OpenAI 前几个月是兴奋的，之后发现拆开来看每一块都不神秘，“就是一个祛魅的过程”；再过几个月才发现每个公司真正的秘密就是一帮踏踏实实、很疯狂、带点理想主义的做事的人。OpenAI 的组织形态印证了这一点：全员统一称 member of technical staff，管理层相对扁平，方向自下而上与自上而下互相制衡。他认为扁平化不只是大模型公司的最优解，“不在大模型公司也应该是最高效的形式”。
二、Navi：一个用 Rust 写出来的"数量级提升"
Navi 是赵迪在 Twitter 期间最有分量的作品，名字来自《阿凡达》里驾驭飞鸟的天空之人——他说自己一直记得主角骑鸟从悬崖俯冲再拉起的镜头，“觉得非常的 free”。做 infra 的人工作枯燥，把自己喜欢的浪漫融进工程架构，是他保留的一点乐趣。
它解决的问题在今天有一个更响亮的名字：inference cost。推荐与广告系统的本质是神经网络打分——一个用户请求过来，要同时对几千、几万甚至上百万个候选做 score，计算成本极高。收购发生前半年，Twitter 的 serving 成本正在飙升，赵迪因为想学 Rust（此前写 Solana 合同入了门），用业余时间写了一个 toy inference engine，发现比当时线上那套好了一个数量级。之后花了几个月正式落地，先上广告，收购完成后又推广到推荐，最终统一了 Twitter 全站的 inference engine。他留到最后一刻才离开，“像舍不得自己的小孩一样”；收购方也知道这块的重要性，“基本没动”，只有一句"干得好"作为反馈——连庆功的 pizza 钱都得自己付，这是那家公司清理免费午餐文化的一部分。
他强调 Navi 并无神秘之处：“降本增效这件事大家实践过很多次了，就看你最后能不能非常高效地做到。“但这段经历的价值在于他指出的那个连续性：今天 LLM 推理的核心问题——batching（把请求合并以提高 GPU 向量计算效率）、caching（把昂贵的 KV cache 存下来避免重复计算）、routing（把请求高效送达计算单元）、乃至序列化/反序列化这种高层看不到的隐性成本——推荐系统时代全都走过一遍。“LLM 的 inference 跳不过这几个点，大思路是一样的。”
由此他回应了一个行业争论：在 AI 公司里，serving 工程和模型训练哪个更值钱？他的回答是两者都最重要，权重取决于公司目标——想做最好的开源模型，可以不太 care serving；想成为"为全人类提供 intelligence as a utility"的公用事业公司，serving 就会越来越重要。这个判断和模型定价直接相关：模型好 10%，就可以像苹果对 Android 那样收两倍十倍的溢价，“模型的好坏是非常 critical 的”。
三、马斯克：最伟大的企业家，也是最混蛋的人
赵迪完整经历了 old Twitter 到 X 的推倒重建，他说那段时间"对人的身心摧残很大，甚至对世界观都有改变”。收购前的 Twitter 是"小 Google”：做什么都要 build consensus、write document，一个决定磨几个月，聪明人互相制衡，最后变成 slow moving。然后收购方带着一句话进来：“我不需要这么多人。“他提到的细节包括第一个 hack iPhone 的 George 自愿来做 intern、宣称一百个工程师就够——到今天 X 的工程团队真的就差不多一百人。
他的核心判断是：这不是表演，而是第一性原理的自然结果。“他做什么事情都从 first principle 来，解决事情的本质是什么，边角的事情都不管。在美国系统下成长出来的 CEO 会被政治、员工幸福感这些事阻挡，很多 business 大概 20% 的人做就可以了，但没人下得了这个手。“斯坦福一位教授评价乔布斯的话被他原样用在了马斯克身上：见过的最伟大的企业家，同时也是最混蛋的人。
“混蛋"有具体的颗粒度：对不关心的问题（哪怕是深度访谈里别人提出的问题）当场失去耐心，说"你这话我不感兴趣，下一位”；身边从 Steve Davis 到 James Musk 形成一层执行圈，Steve Davis 出现在哪里，哪里就"开始大裁员”；项目的时间单位只有几周，不存在几个月的事情；即便共同搞定了几百万的生意，想一起买 pizza 也得自己付钱。而"伟大"同样有颗粒度：他对产品工程提出一堆"不可能完成的任务”，最后发现人的主观能动性被激发出来后"居然也能干成”，由此衍生出一条社区戏称的"马斯克法则”——don’t say no，先认同目标，能力在线，实时反馈，哪怕最终结果与要求有差距，他很大程度上也会认可。画大饼只许他画给别人；反过来的马屁拍不动，“软硬不吃，事没做完一样走人”。
至于为什么华人工程师在 X 占比越来越高，他的解释带着自嘲：“我们华人在社会中受锤的经历比较多，习惯了这种风格之后，做事的空间反而很大。“留下来的是两类人：纯粹想做事情、对待遇没要求的人，和真信这个梦想的人。他自己留下是因为最初真的信——Tesla 和 SpaceX 的理想足够伟大。而离开是因为学习曲线变平了：搜广推这个行业和整个社交网络一样找不到方向，工程师拿着高薪，每年为 engagement 提升 0.5 到 1 个百分点。他认为 Peter Thiel 当年拿 Twitter 开刀的批评是对的——那么多聪明人为了一个字符数上限的信息流耗着，而世界上有更重要的事要做。能打破这一切的，需要一个天不怕地不怕、和整个系统完全独立的人。
这份"治本式"的风格也延续到技术上。对比 FSD 与 Waymo，他的框架是：Waymo 是工程师思维——高精地图加上大量 if-else 逻辑，patch on patch，问题定义得具体，所以现在能跑；FSD 是把问题高阶化——直接造一个能理解世界同时能驾驶的模型。技术上 FSD 领先，因为它是纯端到端神经网络；但 FSD 的难点在于它要"小数点后五个九"才算成功，每往前进 0.001，训练数据与 infra 成本都指数上升，而 robotaxi 商业闭环还要等到能把驾驶座上的人拿掉的那天——时间点他也不知道。这种"高一个维度降维打击"的思路不一定成，“但这就是他通常的做法，不做治标不治本的事”。
四、模型没有统一的好坏，这是一个多元世界
转到模型评价，赵迪给出的答案出人意料地"反 benchmark”：模型好坏是"对人的”。前端工程师看重审美，后端看数据分析与不出错，科学家需要两种模型——一个负责发散、给出"我没想过"的惊喜点子，另一个负责收敛、能带着一个高层指令 autonomous 地跑几天给出论证结果。快和聪明同样不可兼得于一个模型：有人喜欢跑得快的模型当即时反馈的 coding assistant，有人（包括他自己）现在更愿意定义一个 task 然后等结果，“慢一点也行，智力越高越不出错越好”。他的结论是：以后是一个多元世界，工作用一个模型、生活用另一个模型，就像人与人的分工一样。
对中国模型的观察提供了一个外部视角：一位常驻湾区的德国投资人实际在用的不是话题度最高的 DeepSeek，而是 Qwen——用 Qwen 做转录和翻译，“极其精准”；而另一位朋友做滴滴相关业务时对 DeepSeek R1 的体验是幻觉率偏高。赵迪自己用的是某个开源模型，“free 的就懒得换”。他把开源与闭源看成一个饼的两面：开源能做的 why not，做不了的才用闭源前沿模型；圆画得越大，接触到的未知越多，两部分要做的事情反而都更多。
对未来格局的判断也顺着这个二元结构展开：闭源前沿会收敛到几家——“只有集中了才会有效率，有效率才能把价格打下来”；开源则会百花齐放、交叉授粉。他怀疑制约模型多样性的主要变量是 GPU 量级：算力受限的公司（他点名国内公司）差异化是必须做的，参数越大能力覆盖越广，“照顾的能力就越多一点”。
五、Codex 普及之后：写代码这件事被重新定义
这期访谈里最直接的行业信号来自 OpenAI 内部：据他所说，公司已完全普及 Codex，年初至今用量有八到十倍增长，亚太地区十二倍；以前一个月的工作现在一周做完，“带一堆 agent 做也能做到”。因为能力上去了、价格又便宜，很多人从别的工具整体迁移——他身边就有去年还在用 Claude、今年全部换成 Codex 的例子。
但由此推出"不需要工程师了"，他明确反对。他的原话是：写代码这件事本身被重新定义了——未来优秀工程师的定义不是谁手写了多少代码，而是谁能更清楚地发现问题、更高质量地驾驭模型把复杂的事情做出来。这个标准其实一直存在：看 impact，不看代码量，“回字有四种写法，如果没有创造价值也没用”。Codex 只是把这个问题尖锐化了——以前工程师还可以躲在一段代码里自我陶醉，现在这一层没有了。
工程师剩下的不可替代部分有两块。一是 idea 的输入与交互式的过程：判断 AI 写的代码好不好、把逻辑链做出来，这仍是人的工作，想出"与众不同的点子并推行下去"反而变得更值钱，而帮人想点子这件事 AI 现在还做不了。二是系统直觉（他借用了"taste"这个词）：AI 会拐七拐八地绕到一个点，工程师知道哪条路最优、甚至哪个点根本不需要去。而这种直觉必须从亲手写代码中来——“你没有写过自己的代码，你对系统就不会有敏感，不知道什么该做什么不该做”。他由此给出一个反直觉的预测：当下游全面 AI 化造成 junior 断层之后，反而"有过 coding 经验的 junior 可能更吃香"，因为对系统的直觉太重要了。
顺着这条路他谈到了教育与失业。他认为大学教的速度太慢，教育的颠覆"一定已经发生"——ChatGPT 的 logic base 比任何老师强大得多；大学的根本问题是它存在的意义是什么。对失业潮，他不认为存在一个清晰的奇点时刻，更像循序渐进：关键在于能不能更快找到下一个增长点——他举的例子是 SpaceX 若真把航天变成巨大工业，会催生大量现在不存在的新工种；但在找到之前，“确实是挺可怕、挺难过的一点”。SaaS 的答案则不留情面：AI 已经"杀死了一半了，一半还多"，靠用户惰性生存的软件会被加速淘汰，“干掉它们对这个世界是好事”。
一个有趣的注脚来自他 OpenAI 的同事：那位同事预测自己的工作终将被取代，副业是上门磨刀，一次 25 美元——“机器人不知道磨得好与坏，手不知轻与重”。
六、AGI、世界模型与智能平权的悖论
如果要在这期节目里找一个"历史坐标"，赵迪的答案是 ChatGPT 3.5 的发布：那是唯一的零到一——“从完全不知道、没有信心，到有信心”；今年的 Agentic 浪潮以及之后的东西，都是从一到一百。工程视角的 AGI 定义也由此变得朴素：他对模型说"给我 build 一个 application"，它做完了、不出错，“那对我来说就是个小 AGI”。AGI 本身是个模糊的定义，“做工程的人都觉得，我现在说 AGI，我也认了”。
关于李飞飞提出的世界模型方向，他的回答是"肯定对，但 Everything is a form of time"——一年、两年、五年、十年，他 comfortable 说自己不知道时间线。当下最确定的落点是 coding：即时提升、结果可验证、训练成本小，“在这个没被挖掘完之前，会在一段时间内是最重要的”。世界模型有一个容易被忽略的候选领跑者：Tesla 可能真正掌握最多的真实世界数据，“有可能是第一个把这件事先做成的”。他感叹马斯克画的饼最后居然都能连起来——xAI、数据中心，最后回到硬件老本行，“口号是有的，梦想是有的，但做事得一步一步往前走”。
而整期访谈最沉重的一段，是他谈 OpenAI 使命时对"智能平权"的自我拆解。他说自己作为 infra 工程师的使命感，是让 intelligence 变成 utility——像水电一样，人人可用，明码标价。但他立刻承认这无法阻止更坏的结果：人类本性自私，历史上"用权力强力平权，最后发现权力变成了私有"；intelligence 最终会变成区分阶级的工具，唯一能指望的是它至少"明码标价"，是当前唯一能做到一定程度平权的形式。更深的推演借了马克思的逻辑：以前资本需要劳力来产生价值，现在"资本加资本就能产生价值"，雪球滚得更快；有钱人调用更多 token、更好的模型，贫富差距扩大的速度会比以前快很多。他担心的是《头号玩家》式（原话提到一部高等人与被科技麻醉的大众分居两个世界的科幻设定）的未来——而且"统治阶级有可能主动把社会往这个方向引，因为那是最稳定的社会形态"。他自己抵御这种图景的方式很具体：不想让人类社会急速分裂，“那样的话人类社会毁灭也不远了”。
尾声：几个可以带走的判断
回看整场对谈，有三条链条值得反复咀嚼。其一，infra 的价值守恒：推荐时代与 LLM 时代的 inference 优化是同一门手艺（batching/caching/routing），谁掌握成本曲线，谁在"intelligence as utility"的公用事业竞赛里就掌握定价权。其二，工具放大的是本来就稀缺的东西：Codex 消灭了代码量的差异，反而让问题定义能力与系统直觉变成新的稀缺品，“junior 断层后懂底层的人更吃香"是对每一个 CS 学生都有效的信号。其三，对人物的评价框架：认清一个人是"混蛋"与承认他把事情做成了，可以同时为真——关键不是道德判断，而是理解他的机制（第一性原理、两周节奏、只画大饼不听大饼）在什么条件下有效、对谁有效。
至于十年后大模型公司剩几家，他的预测是：闭源做前沿的就那么几家，“现在再进去做也挺难了”；开源生态会一直百花齐放。他说完这句，主持人笑着收尾。整期节目没有给出 AGI 的时间表，但给出了一件更实用的东西——一个在所有浪潮现场待了 25 年的人，如何判断什么是真趋势、什么是口号。