「你优化的就是你能拿到的」：Jev 创始人谈机器原生智能
先说结论
三周前，TypeSafe（转写名，疑为 Typesafe）结束两年隐身发布了 Jev（转写中混作 Jeff/Jeb/Dev），迅速成为讨论度最高的新模型之一。开发者反应两极：一派耸肩说"这不就是分类器/逻辑回归吗"，另一派兴奋于"用 LLM 做了很久做不成的事，现在又快又便宜"。几天内开源仿品出现，OpenAI 也在 DevDays 上宣布了自己的决策模型（主持人称"可能是 Terra 或某个小模型"，未经确认）。本期 TWIML AI Podcast（主持人 Sam Charrington）请来创始人 Diogo Almeida（转写混作 Diego；OpenAI 四年半，InstructGPT 与 RLHF 团队成员）。他的核心论点一以贯之：两边都没讨论到点子上——Jev 卖的不是接口、不是速度、不是便宜，是"智能"本身。字符串模型为"被人消费的文本"优化，而会计、保险核保、客服这些"AI 最没用"的领域需要的是给计算机消费的离散决策；“你优化的就是你能拿到的”（you get what you optimize for）是他解释一切的分水岭。文中所有说法均为嘉宾观点或节目转述，未独立核实。
一个所有人该回答的问题：AI 为什么这么聪明又这么没用
Diogo 的电梯演讲很不客气：“自动化到底在哪？"（原话带脏话）他把 AI 切成两个桶：一桶是超人的——ChatGPT、Deep Research、Claude Code；另一桶是"差到根本没法用"的——基础数据录入、保险核保，甚至连 Anthropic 官网的客服 agent 都只会甩 FAQ，改张信用卡都做不到，尽管这些事有巨大的财务动机。主持人给出常规解释：我们手里只有一个工具（token 预测的 transformer 加一堆机器），硬塞进所有问题。Diogo 部分同意但嫌不够细：同一个模型能解千禧年大奖难题却不能自动化会计，“AI 实验室有很强的动机不诚实地回答这个问题”。他的答案：字符串 LLM 全部为字符串优化，字符串是给人或别的 LLM 消费的；而会计是给计算机消费的——特定字段、表单、离散决策。为字符串优化与为决策优化是两回事，这是那个鸿沟"最大的解释变量”。
主持人反问：AI 能力的边界是"锯齿状"的（jagged），文本 vs 决策的一维切分是不是太顺着自己的产品叙事了？Diogo 的回应是全场最精彩的论证之一：锯齿不是 LLM 的固有属性，而是优化过程的产物。证据：ChatGPT 从不会无缘无故骂你——它对某些事情可靠到极致。机制在 RLHF 的不对称性里：客服场景里"不该退款时退了款"和"脸滚键盘"从准确率看都是 0%，但你永远见不到脸滚键盘，因为奖励模型里越容易惩罚的行为，推理时就越彻底消失——预训练模型本来可能输出词沙拉，后训练让它在这类错误上绝对可靠。推论令他自己都感慨：“ML 从业者反而最不明白’你优化的就是你能拿到的’，常跟人打交道的人最明白——后训练能让特定类型的错误消失，AI 从业者在设定模型’ desiderata 菜单’上的能动性比人们意识到的大得多。”
「最苦的教训」再修正：任务 > 数据 > 算力
Diogo 写过一篇"最苦的教训"（bitterest lesson）博客回应 Sutton：Sutton 说算力与扩展比算法重要，苦在 ML 人热爱算法；他的修正是数据比算力重要（算力要有数据可施），而比数据更重要的是"对的任务"——预训练损失在事后看显然，当时却是一场信仰之跃；能定义出新任务的人在领域里凤毛麟角。游戏是特例：没有数据、靠 on-policy RL 用算力换数据，所以 Sutton 的版本在那里成立；现实应用里数据才是受限资源。他复盘了三种 RLHF 的历史（Paul Christiano 教机器人后空翻的无 LLM 版本；GPT-2 规模的摘要任务；以及现在大家默认所指的"指令遵循"任务）：RLHF 之前互联网上根本不存在那种形状的人类反馈数据——“谁会对两个 on-policy 补全持有偏好？"——是团队从零造出数据方向，而"ML 的巨大跳跃都是这么来的：ChatGPT、o1，以及（至少从轰动程度上）Jev”。这也解释了他的融资轶事：投资人夸他"这是听过最棒的 pitch"，他直接拆穿——去年一字不差的 pitch 你们没听懂，你们现在反应的是产品市场契合度，不是叙事。
“分类器"指控：他照单全收，然后反将一军
对"就是个分类器"的嘲讽，Diogo 的回怼毫无防御姿态：分类器是一种接口，2010-2020 没人发明新的分类器形状、只做有用的事，因为分类器就是"有用性的形状"本身——Meta 和 Google 大概率主要就是靠分类器（也许加点回归器）驱动的。“如果有人说 Jev 是零样本通用分类器，那是对我们最高的赞美。“他的价值主张具体化：给随机开发者一个 2019 年十几人 ML 工程师团队的等效能力，任何你写代码时临时想到的任务即刻完成，而且质量高于 2019（因为底座模型强得多）。他把用户分成两波：第一波是"一直觉得 AI 早该长这样"的人——活在结构化输出里的 DSPy 社区，“像幻肢被还了回来”；第二波才是"更便宜更快跑同样任务"的人。而开源仿品和 OpenAI 的回应在他看来都没击中要害：“接口很酷，但理想速度是即时、理想成本是零——你在埋点时不会专门为了给库加成本和延迟。你付钱买的是智能。embedding 上摞逻辑回归，你得到的就是逻辑回归水平的智能。“他甚至自曝团队劝他别把这点讲出去（会招竞争），但他坚持要教育市场：“分类是 AI 完备的（AI-complete）——任何任务都能化归为分类问题。智能才决定你能自动化什么、能造出什么科幻。“风险提示也给了：如果人们玩到的是坏版本，可能把整个子门类拉黑。
Jev 到底是什么：SQL for intelligence，以及 RLCD
产品形态：一个"智能 API”——你给一组候选决策和输入，它返回选择和各选项概率。他自己喜欢的比喻是 “SQL for intelligence”、给软件加"第四个逻辑门”，目标是把智能标准化为通用原语。对"决策模型”（decision models）这个品类名他保持开放——“最好的品类名由社区命名”——并留了个悬念：这类模型能做的事不止决策，但那是路线图上更远的事，“总有一天会显而易见”。
训练方法 RLCD（他称之为"从校准决策做强化学习"的一类算法的总称）：优化校准决策，因为那才是软件需要的。他拒绝用"后训练”（post-training）描述——正如 RLHF 出现之前没有"后训练"概念，他们的做法"拆掉了大量根本性部件重新拼装”，是"模型的弗兰肯斯坦”，底座用了多个开源权重模型（他特意纠正主持人：他说的是 open weight，不是 transformer——虽然"技术上不是语言模型，它不建模语言”，但智能来源确实是"压缩版互联网"，那是他见过通往通用智能的唯一路径）。隐身两年、原以为一周能做完的项目做了四个月（他自嘲当时自己"最差并列、最好领先"的世界级后训练者）。他曾 在OpenAI 内部写过一篇题为《我们去年就能有 AGI》的辛辣文档——赌的是"一年 RLHF 量级的投入就能造出机器原生模型"；事后承认 RLCD 一年做不完，“LLM 天生更适合讨好人，而不是做校准的稳健决策，剥掉谄媚成分后锯齿多得吓人”。
为什么校准重要：接口层面他主张"任何 function calling API 都该给函数本身一个 logit bias"——沃尔玛和好市多的退款政策天差地别，现在你只能用自然语言求系统消息（“请别退款”），而不是把系统控制权交给下游工程师。他举了 OpenAI 过度拒答回滚的旧事：模型在权重里做了"拒/不拒"的决策并与文本融合输出，同一个查询刷新几次可能有时拒有时不拒——“从工程角度看是疯狂行为。为什么没有阈值？为什么阈值不能随’这客户值多少钱’‘人工坐席现在多忙’调整？“RLCD 的任务形状就是暴露这些工程原生旋钮，而要有可调阈值就必须校准、就必须在乎概率长尾而不只是准确率。旋钮的实现方式是把概率直接给出去——“相当于 OpenAI 对外输出每个 token 的 logits，把采样链交给开发者”。校准从哪来？他给了方向不给细节：RLHF 和 RLVR 都会摧毁校准（输出好字符串需要极端过度自信，mode-dropping 损失彻底扭曲概率——GPT-4 论文开始谈这个问题，因为从那时起只发布后训练版本；早期 OpenAI/Anthropic 发的 P(I Know) 类校准测量说明预训练模型本来校准尚可），但可以像 RLVR 引导推理那样，从种子数据出发用对的 RL 目标逐步 bootstrap 出校准。
拒绝 harness：那是代码，不是 harness
主持人问 Jev 与 harness 的关系（LLM 靠 harness 变得更有用，Jev 会不会也长出官方 harness）。Diogo 的回答是整个访谈的方法论核心：“那个东西叫代码，我整体拒绝 harness 这个概念”——harness 是"无马马车"式的思维，把智能硬套成人形。他对行业叙事提出一个基于时间线的修正：Claude Code 发布后数月不温不火，2025 年 11 月前后突然巨大跳跃——他的猜测是"把它放进分布”（in distribution）带来的数据跳跃（coding agent 场景的真实数据），而不是 harness 形状本身；OpenClaw 同理：形状强大，问题出在背后的智能，“怪 harness 是冤枉它了”。在他的框架里，TypeSafe 离不开代码：概率只有流进应用才有意义；“不是为写代码造的，是为增强代码本身的表达力造的”——LLM 被用来写代码，而代码的表达力十年没变过。类比 n8n 节点：Jev 是你画布上的一个节点，逻辑和数据都是你自己的。“总有一天智能会像数据库——写代码时需要就调用。“他还顺带给了个现实注脚：把整个业务算法写在系统消息里、逻辑跑在别人服务器上，对 API 而言非常反常。
配套的还有一篇他的博客《KV Cache Rules Everything Around Me》（他很得意自己是全网第一个玩这个梗的）：agent 设计被 KV cache 的昂贵与敏感支配——为什么子 agent 用不起来、为什么路由常常失效。他的面试题式思想实验：“如果 KV cache 不存在，你会怎么设计 coding agent？"——可以扇出、过滤、重排，可以对上下文做层级检索（log n 查找），可以压栈弹栈地策展上下文，而不是背着全量历史决策；工具调用则制造 context rot 且模型被过拟合到原生工具上（外接工具调用率低）——若能对工具调用施加逻辑偏置而不污染上下文……“真想亲自做这个，太酷了。“务实约束：当前是 Jev 1.13，也许要 1.16 才真能跑通这些；未来是"混合体逐步增加逻辑成分”，因为往 Claude Code/Codex 的 while-loop 核心里加逻辑太难。
权衡、边界与反方视角
他毫不掩饰代价：Jev 牺牲了字符串生成能力（“Jev 可以聊天，很萌，但显然蠢”——故意换来的）；数不清 strawberry 里的 r（“幸好真实工作不长这样”）；抽象层级的执念——即使把"这人想退款吗"拆成一百种场景能解决，也不算完成，目标是让人在贴近思维的语义层编程。泛化问题上他与主持人有一段真诚的分歧：主持人担心业务工作流偏离训练分布时模型"自信地错”；他反驳"解千禧年难题就是比跑通一个简单业务工作流难，我押很多钱在反常识那边”，并给出三种目标的泛化斜率排序：RLHF 最易（讨好人是主观的）、RLCD 次之、RLVR 最难（可验证奖励按定义就是可基准的，加潜推理等于给模型刷榜的全功率，锯齿前沿因此更分形）。对"回到静态工作流会不会积累技术债"的质疑，他的回答是分场景：一次性的事丢给不可靠的 LLM 再人工检查就好；但要放进盒子里在后台永远跑、作为依赖被调用的东西，值得预先工程化并长期维护——“过山车没有轨道就玩不了最刺激的项目”，在轨道上是特性不是缺陷；中间态也存在（比如让 LLM 现场写一个 map-reduce 工作流去扫公司文档库，工作流里调 Jev，“总不能让 Opus 5.5 对全库逐一推理”）。结尾预告：即将公布为什么称其为"系统一模型”（system one models）、会有多模型与早期访问计划、打算招"一大堆人”。
机制链条与可迁移启发
- 优化目标决定可靠性分布：同一个底座，RLHF 让"骂人/词沙拉"类错误归零而保留决策错误 → 说明后训练在"选哪些错误消灭"上能动性极大 → 启发：别问"模型可靠吗”，问"这类错误在我的优化压力下会被惩罚得多容易"。观察指标：Jev 后续版本可靠性九的个数、开源仿品与 OpenAI 决策模型的智能（而非接口）差距。
- 接口≠智能，数据分布才是跳跃来源：Claude Code 的跳变被归因于 in-distribution 数据而非 harness 形状 → 二阶影响：agent 公司的护城河在场景数据不在框架 → 启发：评估任何 agent 产品时把"形状创新"与"智能提升"分开计价。
- 校准是被 RLHF/RLVR 牺牲的公共品：过度自信是输出好字符串的必要代价 → 一旦软件要消费概率（阈值、路由、升级策略），校准就成为稀缺品 → 启发：做企业集成时优先检验概率质量而非 top-1 准确率。观察指标：API 是否暴露 logit bias/概率长尾、P(I Know) 类校准测量是否回潮。
- “轨道"与"魔法循环"的分工：不可靠智能适合一次性任务（人检兜底），可校准智能适合做永久依赖 → 组织启示：把工作按"值得预先工程化吗"分桶，而不是按"AI 能不能做"分桶。
不确定项声明：公司名 TypeSafe、模型名 Jev、人名 Diogo Almeida、RLCD、OpenAI 决策模型名称（“Terra”）、“Quan”（疑为 Qwen）、OpenClaw 等专名均来自自动转写，显著疑误已标注；Claude Code 2025 年 11 月跳跃的数据归因是嘉宾从外部时间线做的推测，他本人明言没有内部数据；本文不构成对 Jev 实际能力的背书——嘉宾自己反复强调这是"早期 ChatGPT 阶段"的第一个公开发布。