LLMs Get Lost in Evolving User Intent 精读

本文精读 Microsoft Research 团队发表于 2026 年 7 月的论文《LLMs Get Lost in Evolving User Intent》。论文提出一个将任意静态单轮基准测试转化为动态多轮对话的框架,通过三种意图转移(论点揭示、论点修正、函数切换)模拟用户意图的真实演化过程,同时保留原始评估协议实现免标注的自动验证。跨数学、Text-to-SQL、搜索、编程四个领域的实验揭示了一个一致现象:在单轮设置下表现优异的模型,一旦用户意图动态演化,性能便大幅下降,最严重时直接归零。这一发现暴露了静态评估的盲区,对协作式 Agent 的未来发展具有关键启示。

August 1, 2026 · 5 min

何谓蒸馏?硅谷如何看中国开放模型逼近前沿

月之暗面K3开源权重发布震动硅谷,开源模型首次在多项能力上追平甚至超越最强闭源前沿模型。两位嘉宾——前Hugging Face开源生态负责人王铁镇和TinyFace联合创始人TJ——深度拆解了"蒸馏"争议的技术真相、中国开源模型为何成本更低、Kimi License商业模式对闭源实验室估值体系的冲击,以及开源模型安全之争的真正焦点。核心判断:没有开源,才是这个时代最不安全的事情。

August 1, 2026 · 1 min

GPU其实很闲:AI Infra四层架构与榨干硅极限的效率革命

当AI行业的重心从训练转向推理,一个被忽视的事实浮出水面:GPU大多数时间其实很"闲"。Azure推理负载高达65%的能耗消耗在空转等待上,OpenAI的Chat类请求也达到52%。本文基于硅谷101播客,系统梳理AI Infra四层架构,拆解SGLang/vLLM等开源推理引擎如何通过KV Cache复用、连续批处理、PD分离、投机采样、强化学习训练框架MegaScale等技术,把GPU利用率从50%推向90%+——软件层的每一次优化都变成直接的商业问题。

July 31, 2026 · 1 min

RSIBench-Data: Benchmarking Data-Centric Research for Recursive Self-Improvement 精读

RSIBench-Data 是首个专门评估「LLM Agent 能否自动化数据中心化后训练研究」的受控基准。它固定训练/服务/评估基础设施,隔离 Agent 的研究决策能力。实验揭示了「发现-���靠性差距」:Agent 在 58.33% 的设置中能通过反馈迭代改进首次尝试,但在达到峰值后继续搜索时,78.26% 反而退化。强运行轨迹有四种模式:准确假设、验证信号、行为对齐数据、保留最佳检查点。

July 31, 2026 · 3 min

清华程序员很聪明:清程极智如何把Token成本砍掉75%——AI Infra创业的降本逻辑

清华系AI Infra创业公司清程极智(八卦炉+赤兔推理引擎+AI Ping)联合创始人师天麾深度访谈。高二信息学奥赛金牌保送清华、博士师从翟季冬做高性能计算,2023年底创立公司,一年融资过亿。本篇梳理其核心观点:为什么推理引擎是AI的操作系统、赤兔如何通过FP8/FP4让四台服务器变一台、Token经济爆发后AI Infra被投资人追着投、以及Token服务市场为何是个"黑盒"。

July 31, 2026 · 1 min

美团领投月之暗面A轮背后的故事:叶奇意亲历中国两代AI十年人才迁徙

叶奇意(TME)是横跨中国两代AI浪潮的见证者与投资人:在依图做产品经历AI 1.0的四小龙时代,在创新工场尝试做"中国版GPT-2",后在美团龙珠主导领投月之暗面A轮。他详述了追踪杨植麟四个月才加上微信的曲折、A轮时有VC drop后美团顶上的内幕、王兴"创业公司能做超级模型+超级应用的概率很低,但我愿意支持一把"的关键一锤,以及他眼中中国AI从"拼性价比平替"到K3"直接摸SoTA且开源"的质变。

July 31, 2026 · 1 min

几亿行代码的业务逻辑,AI复刻不了:对话SAP原欣,谈大模型to B的颠覆与边界

SAP大中华区总裁原欣直面AI对企业软件的冲击:定价模式坍塌、功能被替代是真实的,但几亿行代码背后沉淀的业务逻辑和行业理解,AI短时间内难以撼动。从模型到应用之间隔着数据��理、人才落差和组织惯性——AI在企业场景中遇到的技术挑战,远小于组织挑战。FDE潮流本质上是工程师能力与业务顾问能力的合并。

July 29, 2026 · 1 min

从咖啡馆到千亿美金野心:Airwallex吴恺谈AI时代的全球金融基础设施

Airwallex首席营收官吴恺在估值达110亿美金后,回顾了这家2015年从墨尔本咖啡馆起家的金融科技公司如何用11年时间建成覆盖90国的全球支付网络与云上全球银行。对话深入AI时代金融科技的变化:大模型公司动态实时计费的新需求、Agent如何颠覆传统金融SaaS的十个独立赛道、收购逻辑从产品转向数据与人才、ChatGPT做金融的战略困境,以及Airwallex冲击千亿美金的路线图——百万客户、单客万元美金年收、intelligent finance。

July 27, 2026 · 1 min

一部昇腾史与全球芯片30年史诗——华为半导体首席科学家廖恒5小时深度访谈

华为半导体首席科学家廖恒博士5小时深度访谈,从全球半导体30年兴衰史到昇腾芯片的断供求生之路。他以"十八层宝塔"重构芯片产业链全景,详解摩尔定律的三个方面(经济性已死、性能微弱、能效仍有),阐述昇腾与英伟达为何"越来越不像",以及DeepSeek稀疏化设计与算力比的深层关联。这是华为在经历2020年磨难后,高管首次系统讲述昇腾史。

July 25, 2026 · 1 min

AI为什么没能颠覆足球?从SciSports的陨落���世界杯的技术暗战

硅谷101深入FIFA赛事总部,探讨了AI为何在足球领域迟迟未能产生颠覆性影响。从利物浦与DeepMind的Tactical AI合作缺乏数据支撑的改善,到曾经的明星初创公司SciSports被低价收购的完整复盘,再到2026世界杯背后超1.5亿数据点的技术体系——这篇总结梳理了AI在足球竞技层面失效的四大根因,以及Football Tech赛道的商业困境与整合趋势。

July 24, 2026 · 1 min