先说结论
这期播客最值得记住的不是又一家 AI Infra 公司拿到了大额融资——虽然 RadixArk 1 亿美元种子轮、4 亿美元投后估值、投资方集齐英伟达(NVentures)、AMD、英特尔、博通、联发科这条消息本身就足够震动。真正稀缺的是,盛颖在将近两小时的对话里完整展现了三件少有人公开讲清楚的事情:第一,为什么推理引擎这条赛道"没有输家",所有玩家同步增长而非零和博弈;第二,为什么一个做系统的人会把 Infra 描述为"浪漫的"和"击中人性的",以及这种审美偏好如何决定了她的产品哲学和公司定位;第三,一个出身江西、靠互联网免费资源自学编程的研究者,如何将"平权"从一个口号变成一套系统性的行动逻辑——从开源到 AMCS 研究组织,再到 RadixArk 让所有人都能制造属于自己的 AI。
盛颖的履历线非常清晰:上海交大 ACM 班→哥伦比亚大学硕士→斯坦福大学博士(形式化验证方向,师从 Clark Verdoja 教授)→谷歌实习接触 AI→Databricks 研究科学家→xAI 推理团队共同负责人→创立 RadixArk。这条线串起来的不是"跳槽",而是一个问题驱动的连续追问:如何让 AI 的能力不再被一小群人垄断。
从形式化验证到推理引擎:一条"被问题牵着走"的路
盛颖在斯坦福的前几年并不顺利。她描述了一段接近一年的抑郁状态,导师 Clark Verdoja 在她几乎不产出论文的情况下从未断过经费,只关心她是否调整好了精神状态。她后来走出来的方式很特殊——不是拼命工作,而是接受自己"没有办法做不感兴趣的事情"这一天性。她后来了解到 ADHD(注意力缺陷多动障碍),但将它视为一种"特质"(trait)而非疾病:“我突然知道了,我不应该逆着我的短处去做事情,我应该顺着我的天性去做事情。一旦悟到这个之后,很多事情就迎刃而解。”
这种自我理解直接影响了她的研究方向选择。她从形式化验证转向 AI 的契机是 2022 年在谷歌的 AI for Code 实习。当时她从编程语言领域跨界进入,发现传统工具在大模型面前"非常无力"——这个判断在当时 ChatGPT 尚未发布的背景下相当超前。她最终选择推理引擎方向,给出的理由朴素而直接:“做 Infra 跟我的思维习惯更接近,它是可预测的、确定性的、基于数学和代码的。”
SGLang 的核心创新是 RadixAttention——用 Radix 树(基数树)数据结构对请求的前缀做索引和存储,当多个请求共享公共前缀时直接复用已计算的 KV Cache(键值缓存),避免重复计算。盛颖强调,前缀共享在几乎所有真实场景中都大量存在:“你只要进入多轮对话,后面的对话都会复用前面已经对话的 history。“这意味着 Agent(智能体)场景的爆发会让这个优化变得更加关键,因为 Agent 的每一步交互都会积累越来越长的共享上下文。
推理引擎赛道:一个"没有输家"的市场
主持人陈倩问到 AI Infra 生态链最近的变化,盛颖给出了一个反直觉的判断:“这个领域没有输家。所有的 Inference Provider(推理提供商)不停地出来有这么多,但是没有任何一个因为有公司的存在而消减下去了,所有人都是同步增长。”
这个判断的证据是公开的:vLLM(从 UC Berkeley 同一实验室孵化的另一个开源推理引擎)商业化后融资超 1.6 亿美元、估值约 10 亿美元;BaseML 完成 3 亿美元融资、估值 50 亿美元;Fireworks AI 估值 40 亿美元。这些公司在功能上与 SGLang/RadixArk 存在竞争关系,但盛颖明确表示不将它们视为竞争对手,理由有两层:
第一层是商业模式设计。 RadixArk 将所有代码完全开源,没有 private fork(私有分支)。盛颖说:“我们希望这些东西被所有人使用,我们并没有想要通过这个地方制造一个 difference 然后去获取利益。“BaseML 和 Fireworks 等推理提供商本身就是 SGLang 的客户——它们在开源引擎之上构建托管服务,而 RadixArk 选择把引擎这一层完全开放。这类似 Databricks 和 Elastic 的模式:开源核心,靠托管和企业服务盈利。
第二层是战略定位。 盛颖多次暗示 RadixArk 的长远目标远超推理引擎:“Inference 不是我们的终点,它是一个起点。我们想做的事情不是一个现在世界上已经存在的东西。“她拒绝透露更多细节,但明确表示 RadixArk 的最终使命是"做下一代 AI”——既不是单纯的推理,也不是做模型,而是"让所有人拥有制造属于自己的 AI 的能力”。
推理市场的两个明显趋势也值得关注:一是新的 Infra 公司仍在不断涌现;二是已有的 Infra 公司在向 RL(强化学习)训练扩张。RadixArk 在 2025 年 11 月开源了 Miles 强化学习框架,目前已被超过 20 支团队用于 MoE(混合专家)模型的 RL 训练。盛颖解释这两个方向高度相关:“RL 里面很大一部分挑战来自 inference 推理,系统层面它们有非常大的 overlap。”
“Infra 的浪漫”:当系统美学成为一种产品哲学
播客中最独特的段落是盛颖对"Infra 美感"的论述。她提出要成立一家"Infra First”(基础设施优先)的公司,因为在很多以模型为目标的科技公司中,“Infra 的人在美感上有所妥协”——他们长期处于被低估的状态,被迫不停 support 其他组件,被迫用 hacky(拼凑)的方式解决问题而非从深层解决。
盛颖对 taste(品味)的定义值得引用:“Taste 就是说你关注的不仅仅是 end goal(最终目标),并且还有这个 end goal 的组成。我的系统不仅能跑,我并且知道它是怎么跑起来的。它是以一个 well-designed 的形态跑起来的,还是一个豆腐渣工程跑起来的?“她将这种追求追溯到写 Infra 的人的共同文化——“我不是特例,我只是 one of them。”
这个偏好直接决定了 RadixArk 的工程实践。她举了一个训练任务的例子:当 job(训练任务)被卡住时,很多团队的做法是打一个 patch(补丁)让它继续跑。RadixArk 的做法是反过来——允许 job 暂停,优先从深层解决问题本身,而不是让问题被临时绕过。“我们刷分也不着急刷,这不是底线级的。我们的 source of urgency(紧迫来源)是你的 job 不能被迭代的时候,这个问题本身应该怎么样从深层次解决它。”
这种哲学延伸到了 Day-Zero 兼容——每代新模型发布当天即支持。盛颖坦言这件事"是市场觉得它重要”,但她也描述了背后的工程量:DeepSeek-V4 在架构上做了大量创新,团队花了特别大的精力做适配,Miles RL 框架的大部分代码基本上是重写的。这种投入回报是可见的——SGLang 目前在超过 40 万张 GPU 上运行,每天处理数万亿 token,用户包括 Google、Microsoft、xAI、英伟达等。
开源社区商业化的真实困境:为什么等不了两个月
盛颖从 xAI 离开的决策过程,是这期播客中最坦诚的段落之一。她当时只差两个月就能拿到第一年的 vesting(股权归属),但她形容自己的焦虑已经到了"不能再拖"的状态。
问题的根源是 SGLang 社区的增长速度远超社区志愿维护的承受能力。SGLang 的核心开发者是"网上认识的网友”,盛颖与其中好几位合作了两年仍未见过面、从未要求开过摄像头:“我只要看到人代码,我就知道你是谁。“这种社区文化在早期非常有效,但当企业级需求大量涌入时,志愿者的热情无法转化为可靠的交付能力:“大家都是很想 deliver 的,但是 team 已经不能再 stretch。”
盛颖描述了一种"中空状态”——社区在表面上是活跃的,但实际上缺乏全职投入来保证项目质量和交付节奏。她在 2025 年 7 月做出决定,离开 xAI 创立 RadixArk。这个选择的逻辑链条很清楚:只有成立公司,把社区维护变成全职工作,才能抓住正在涌来的机会窗口。
这段经历也揭示了一个开源项目商业化的普遍困境:技术口碑可以快速建立社区影响力,但从社区项目到企业级产品的跨越,需要的是工程纪律和全职投入,而非更多的志愿贡献。
xAI 经历:从"没有 politics"到阵痛期
盛颖对 xAI 的评价出人意料地高,她将 xAI 早期描述为"我生命中回忆最美好的一段时光”。她加入时公司不到一百人,她负责构建整个推理引擎 stack 并服务多个内部团队。
她观察到的 xAI 早期文化有几个特点:没有 politics(办公室政治),文化上"没有边界”——任何人可以 touch 到任何事情,组与组之间不被隔开,没有复杂的 pipelining,是 table-top(扁平)的、重工程的文化。这种环境带来的成长极快:“你在那里待一年,可能得外面好几年才能拿到成长。”
她也观察到了 xAI 后来的组织阵痛。她将 xAI 分为 0.0、1.0 和后续阶段:0.0 时期马斯克(Elon)不怎么在,像 family;1.0 时期开始有生长痛,马斯克回来了,但团队仍然团结。真正的问题是 xAI 从小 startup 到大公司的过渡期"阵痛没有很好地被抚平”。这个观察与近期公众对 xAI 核心人才流失的讨论形成了对应。
盛颖从这段经历中提取的管理启示是:公司小的时候靠文化运转,scale up 之后文化和个人能力都变得脆弱,最终必须靠体系支撑。“这个过程不是一个会自然发生的事情。如果你不培养,它就会 block。”
平权作为一种工程问题
播客的后半段深入讨论了性别平等和技术民主化,盛颖的论述有独特的结构性——她不是在表达情绪,而是在拆解机制。
她描述了自己从竞赛时代就开始经历的微妙歧视:“如果我是男生,大家会说我是天才;如果我是女生,她就会说她很努力、很听话。“更关键的是"赢"的归因差异:“我的每一场都要被解释,被找多个原因解释为什么赢。正常情况下一个人赢是不需要被解释的——他厉害啊。但我的每一场都要被解释。“她强调,这种事情"单拎出来都非常小,但它是每天每分每秒发生的平凡小事”,累积起来对个人造成的真实冲击是把单次冲击放大上亿倍。
她的解决方案不是教育或呼吁,而是权力:“你要解决这一点只有一个方法——让所有的事情,或者说在这个领域里的女性,真正拥有权利。其他所有的一切,通过 education 是达不到任何目标的。“她进一步限定:“这个权利是人类真的 top 0.01%、0.1%、1% 里面全部平权。”
这种结构化思维延伸到了她创立的 AMCS 研究组织。AMCS 是一个 nonprofit(非营利组织),目标是孵化优秀人才的项目,“即便他们没有充分的背景、充分的后台、充分的 funding”。盛颖描述了 AMCS 的核心逻辑——不是直接帮助弱势群体,而是找到"想帮助弱势群体的人”,再通过他们去扩散。“你要培养的不是更多的老师,而是想要去培养把学生培养成老师的老师。你需要把那个科学的链条建起来才有用。”
她从与 Ion Stoica(UC Berkeley 教授、Databricks 联合创始人,盛颖的终身导师)的对话中提炼出一句被她反复引用的话:“我不能改变,但如果我能改变百分之一的话,我愿意用我的一生去改变这百分之一。“她强调的改变原则是"solid”(坚实)而非规模:“哪怕我就动了一点点,比你那个动很大步的将来还要退回来要好很多。”
AI 安全的终局判断
关于 AI 是否应该停止发展,盛颖给出了明确的判断框架。她认为呼吁所有人停止 AI 研究是"违背人性"的,因为"所有人都有资源差异,所有人都想要接触到最好的 AI”。如果假设有一个强力上帝来安排每个人做什么,那"不是一个极度差的世界结局”——但现实中不可能存在这样的协调者。
她的终局观分两层:在可见的未来里,现有 AI 还没有强到真正控制和威胁人类,因此人类仍然安全,AI 会继续变得更强大,但这是"productive 的取代人类的一些功能性"的变革。如果有一天 AI 真的强到能 dominate 人类,“我们是阻止不了的”。阻止的方式不可能是让所有人停下来,而必须是"发明、发现另一条路径,使得你允许 AI 继续前进,而人类还不会输”。
RadixArk 在这个框架中的定位是:“我们想要构建的未来,就是一个跟强力 AI 共存的未来。你不太可能通过一小部分人把好的 AI 握着、其他人都无能来维护表面上的和平,这是不可能的。”
对读者的启发
从盛颖的经历中可以提取几条可迁移的判断:
第一,“没有输家"的市场判断意味着 AI Infra 的需求池在快速扩大而非被瓜分。 这对从业者的启示是:选择 AI Infra 方向时不必过度焦虑于竞争,更应关注自己解决的具体问题是否在增长曲线上。BaseML、Fireworks、RadixArk 等公司的同步增长说明,推理和训练优化的总需求远未被现有供给满足。
第二,开源到商业化的跨越需要的是全职工程纪律,而非更多志愿热情。 SGLang 的经历对任何试图将开源项目商业化的团队都有参考价值:技术口碑可以打开局面,但企业级交付需要的是体系化投入。社区维护和商业交付之间的"中空状态"是最危险的阶段。
第三,“Infra 美感"不只是审美偏好,而是技术债务的另一种表述。 盛颖强调的"从深层解决问题而非打 patch"在工程管理中是一个可操作的判断标准:当你的团队频繁用临时方案让系统继续跑时,累积的不是速度而是隐性风险。
第四,结构性不平等的解决需要系统化方法而非个案应对。 盛颖的"培养想培养老师的人"逻辑虽然很慢,但她指出这种改变"不会回退”——这为任何试图推动组织或行业变革的人提供了一个评估框架:优先追求 solid 的小步推进,而非大规模但不可持续的改革。