先说结论
这期 a16z 播客像一场拖延了十几年的同学会:主持人 Martin(转写识别;从对话中「你创办了 Nicira、导师是 Nick McKeown」等细节看,与 a16z 合伙人、SDN 开创者 Martin Casado 高度吻合,节目内未给全名)请来研究生同组的 Jad(转写识别,姓氏未出现)——现在的 Grepper 创始人兼 CEO,此前做过 AppDynamics、a16z 投资人、某公司 CPO。两人的分歧构成全期张力:嘉宾用亲身实践证明 AI 写代码的增益是数量级的(一个人 10 天完成过去 6 个月的数据湖核心项目),而 AI 接管「运维」仍然遥远;主持人从理论上补刀——模型是「分布进、分布出」,代码的解空间恰好与训练集同构,运维却像宇宙本身:重尾、例外驱动、幂律横行。双方都同意的判断是:接下来三十年是「元经济均衡飞轮」,AI 这个万能但低效的工具会与真实世界互相改造,而哪些环节被吃掉由经济学决定。
生意起点:人们在为「可靠性」支付可观测性账单
Grepper 的创业观察值得单独记录。2023 年嘉宾遍访工程负责人,人人都在降本,第一年是基础设施,第二年就是可观测性。他摸到的结构是:企业在可观测性上花掉基础设施开支的 5%–20%,但真正想买的是可靠性(支出可预测 + 系统可靠)——可观测性只是可靠性的代理变量。这条路一度成立(钱越多越可靠),但微服务化后每一层采集的数据量爆炸,可观测性成本增速超过了功能产出增速,每一美元换来的边际可靠性开始走平,于是所有人都觉得「太贵了」。Grepper 的解法是插进数据流做上游信号提取:遥测数据「大部分是绒毛和保险」,先在实时流里把信号抽出来,下游可观测性成本砍掉约 90%,再把抽出的信号喂给正在建设的 AI 层做排障与修复。公司至今只有 10 人——这本身也是下文「AI 写代码增益」的一个活样本。
AI 写代码:好工程师变得更好,差工程师原地不动
嘉宾对 AI 编码的演进史一笔带过却很准:从 IntelliJ 里的 Copilot 自动补全测试(「这只是补全」)开始,迅速超出所有人预期。他的两个观察比流行的「AI 让人人平等」更冷:其一,真正好的工程师会把 AI 嵌进工作流到「AI 反过来训练人」的程度——学会怎么跟它说话、怎么榨出最好的输出;其二,随着团队扩张,普通工程师与优秀工程师的差距被放大了十倍,且方向明确:好工程师变成更好的好工程师,差工程师并不会变好。原因在他看来是:你能调度多少复杂度,就能把任务拆多细派给 AI;他们做分布式系统与分布式算法,「AI 想不了这些问题」——模型必须先由人把查询的语义(他现场科普:句法是你敲的字符,语义是机器实际做的事,有些语义看代码根本推不出来、只能跑出来)讲清楚,才能动手。
他个人的工具链细节密度很高,是本期最可迁移的部分:Windows + WSL(纯命令行、无图形界面,理由竟然是从 90 年代起就不想学 Mac 快捷键、恨单键鼠标);Claude Code(转写作 Cloud Code)配 Opus 5.5(「很惊艳的模型」);最新学到的技巧是不用内置子代理,而是让 Claude 起命令行子代理——会话可持久、可跨会话复用、上下文更省;同时开 3–4 个窗口,再多就会「丢失上下文」。流程上,他让主实现代理带一个「tech lead 评审」代理,两个 agent 在命令行里直接对话、互相迭代 PR 和设计文档;他本人只审 PRD 与设计文档(算法、分工、PR 之间的关系),确认后放行并行化。评审重心从读代码转向测试与「黄金预期」是否漂移。但最后必须把所有 PR 重新摞成一摞由人逐个过,「否则又乱又丛生」。
增益的硬数字来自最近的「auto-promotion / 数据湖散列(shredding)」项目:日志是半结构化的任意列,理想状态是每个字段都变成可独立过滤的列(Parquet/Iceberg 之上),这涉及元数据系统、提交协议、多写者协调——他一个人十天上线,此前口径需要约六个月;主持人换算为「十到二十倍」,且强调这是生产代码。
运维为什么难:状态空间、重尾和藏在饮水机旁的知识
主持人的诘问是全期理论核心:模型能写代码,是因为训练集覆盖了「所有写过的代码」;但分布式系统的正确性与可用性取决于访问模式、负载、锁与最终一致性这些运行时性质,「训练 AI 管运维的数据在哪里」?他给出两个论据:程序每加一个 bit,运行状态空间就翻倍,很快超过宇宙原子数——这正是混沌工程等产品化运维尝试从未成功的原因,「管理分布式集群的肮脏秘密,很久以来就是人类在管」;以及系统史规律——人们总想造聪明的算法(智能虚存、拥塞控制、自适应路由),最后每次都选择过载供给(swap 到盘等于死机、振荡不如 ECMP)——「系统的历史就是不预测、只过载供给」。
嘉宾的回应是工程化的中间路线,也是 Grepper 正在做的:不从滞后指标(告警响了、指标飙了)往回找根因——「回溯根因非常有问题」——而是反向,用大规模聚类在环境里找「变化」:系统出错前几乎总会先冒出一条早期消息(connections ran out、memory exceeded、buffers emptied),把这条消息抓出来交给 AI,让它看代码定位来源、查历史、跑假设与启发式,判断是否需要处理。架构上是「预测模型 + 推理模型」分工:预测模型扫每天 PB 级日志、把新模式顶出来,AI 负责围绕它推理。他在客户环境的验证结果直白:内部与若干客户环境已运行,有几例他们忽略了信号,「后来都变成了生产事故」。主持人随即抓住要害完成理论收束:宇宙是重尾的,坏事的集合是例外的集合,但排障的步骤集合是可管理的流形——这正是可以教给模型的东西,也正是当年人类在混沌工程失败后实际承担的角色。安全同理但更难:不是自然分布的罕见态,而是对手在刻意寻找罕见态。结论分级:AI 做「查询优化这种工作」非常接近了;「像 MIT 博士那样管一个宕机即停业的分布式集群」——还不行。嘉宾补了一句系统层的洞察:这些模型已经开始「知道自己答不了、于是主动去跑实验」。
分布边界与经济均衡:接下来三十年
往大处走,主持人的框架是:AI 会在「解空间分布与训练集同构」的受限域里野火燎原(代码、生成图像),而解空间是自然世界的领域会更慢、更贵——他给的锚点是自动驾驶:从 Sebastian Thrun 赢下 DARPA 挑战赛到今天,「二十年、一千七百亿美元投入,单位经济性还不如 Uber」。既然「任何问题都能解,只是算力和钱的问题」,均衡点就是经济均衡;而改变均衡函数的一个办法是改造世界去适配 AI——机器人学史如此,数据仓库里唯一成功的自动化方案就是「把整件事全自动化」的那家。他以此收束:「我们进入了元经济均衡飞轮,还有三十年,会创造出巨量价值。」
两段闲笔也值得记。一是主持人对「AI 能否做 VC」的回答:市场是有效的、好公司人人都能看见,VC 的核心是 access、赢单和投后增值,「你必须是个人类」;但他见过 AI 做的分析不输任何共事过的天才——「这更多是对 VC 分析能力的控诉,而不是对模型能力的赞美」,并自嘲这行「整体是一场歌舞伎表演」。二是嘉宾的销售段子:他们去讲 AI 可靠性故事,客户打断:「等等,你说能省 90% 的 Datadog 账单?我要买的就是这个。」代码类 AI 卖得动是因为「它就是能用」且工程生产力是最大成本项之一;运维与更远的 AI 价值,客户还很难标价——「现在还是早期」。
启发
三条链条。其一,能力判断用「分布同构」检验:解空间与训练集分布一致的领域(代码、图像)会继续野火式进展,重尾、例外、对抗性的领域(运维、安全)慢得多——给任何「AI 即将接管 X」的判断先做这道检验。其二,人与 AI 的分工点在「复杂度调度」:嘉宾的实践显示价值集中在把系统语义讲给模型、审 PRD 与设计、把并行结果重新线性化——中间的构建环节反而最便宜;「AI 训练人」与「人拆解复杂度」是同一枚硬币。其三,监控体系的价值将从「事后归因」迁移到「变化检测 + 因果链推理」:先在数据流里做上游信号提取、再让 agent 围绕新信号跑假设,比从告警回溯根因更符合重尾世界的结构——被忽略的那几条早期消息变成生产事故,就是这条路线最硬的证据。
(归属说明:本文全部内容出自节目转写;人名 Jad/Jed、Martin、Sundar、James Cowling 及公司名 Apply、Nysira(应为 Nicira)、Nick Piccuna(疑为 Nick McKeown)、Cloud Code(应为 Claude Code)、fable agents 等均为 ASR 识别并标注疑点,未独立核实;效率数字与产品效果为嘉宾自述。)