基于职位（知微编辑部）「靠编程保送清华的牛人，AI 时代都在干嘛？」的完整转写整理。本期访谈对象是清程极智联合创始人师天麾——高二拿下全国青少年信息学奥林匹克竞赛金牌保送清华，博士师从清华大学高性能计算研究所翟季冬教授（十余次带领清华超算队站上世界冠军领奖台的"总教头"），研究���向是系统与高性能计算。2023年底，他与同门在清华科技园创立清程极智，专注AI基础设施（AI Infra），一年内完成多轮融资。公司名拆开看：“清"是清华，“程"是程序，“极智"是极致智能——合起来就是那句自勉：“清华的程序员很聪明”。

一、什么是AI Infra：它是AI的"操作系统”

新的变化

大模型时代催生了一个容易被大众忽视却至关重要的赛道——AI基础设施（AI Infra）。它既不是做模型（那是智谱、月之暗面等公司的事），也不是做硬件（那是英伟达、华为昇腾等的事），而是夹在硬件和模型之间的那一层系统软件。师天麾用一个通俗类比解释了它的位置和价值。

嘉宾观点与解释

推理引擎就是AI的操作系统。 师天麾把硬件显卡服务器比作手机本身，把AI应用比作手机上的App——但光有手机和App，软件是运行不起来的，因为底层需要一个操作系统。AI Infra做的就是这层"操作系统”，其中最核心的是推理引擎（Inference Engine）。你每一次和大模型的对话，回答都是通过推理引擎产生的——它决定了服务质量稳不稳定、回答速度快不快、成本有多低。硬件标称的算力参数只是理论峰值，实际运行AI时能跑到峰值的百分之多少，是由这层系统软件决定的。“硬件它就一个标称的参数，说我能有多么高的算力，但你真正运行AI的时候，能不能达到这个峰值，这是软件系统来决定的。”

更重要的是，推理引擎甚至影响模型聪不聪明。 不同的人用同样的机器、同样的模型来部署，部署出来的模型能力、聪明程度是不一样的。推理引擎不仅影响效率、成本、稳定性，也直接影响模型最终展现出的效果。

二、创业路径：从信息学竞赛金牌到高性能计算，再到AI Infra

新的变化

清程极智的成立（2023年底）并非一时冲动，而是十余年技术积累在正确时间点的商业化变现。创始人师天麾的个人轨迹，恰好串起了中国从超算竞赛到AI Infra创业的完整路径。

嘉宾观点与解释

从游戏到编程，从竞赛到高性能计算。 师天麾小学时为了多玩游戏加入计算机兴趣小组，结果发现编程比游戏还好玩。初一开始正式参加学校培训，高二拿下全国青少年信息学奥林匹克竞赛金牌（每年全国仅约50枚金牌、约30个真实保送名额），保送清华。进入清华后，他先去自动驾驶公司Momenta做CV方向实习，但感觉"有点像搭积木、拼拼凑凑，可解释性不够强，正反馈不够多”。真正的转折是大三的**《高性能计算导论》**课——他在竞赛时就喜欢把代码写到极致快（竞赛题目除了正确还有性能要求，必须在1-2秒内输出答案），这门课让他找到了"让代码飞起来"的成就感。随后进入商汤HPC部门实习，在ARM上做推理优化、抠底层指令。

博士期间的痛苦与突破：做系统的人曾经"又苦又累"。 师天麾跟随翟季冬教授读博，方向是系统与高性能计算。他坦言打贸易战之前这个方向"又苦又累"：相比AI，系统和HPC的会议非常少，发论文概率小，毕业后工资不高，还有卡脖子问题，走路吃饭洗漱都在想论文怎么做。博一上学期做图挖掘（Graph Mining）工作——在数亿条边甚至更大的转账图里，用最快速度找出符合专家给定模式的样例（如洗钱、套现的环形转账模式），应用于金融风控、生物制药、社交网络。这篇论文一次就中了高性能计算领域顶级会议SC，让他"至少大概不会太愁毕业了"。

与蚂蚁集团的合作是创业的催化剂。 博士期间师天麾反复问自己：“我这个性能世界顶尖的图挖掘系统，到底有什么用？“后来一个与蚂蚁合作的机会，把他的系统真正用在了蚂蚁的金融风控系统里，用于反洗钱检测。“还挺有成就感的，这促使我觉得我还是更希望把所学知识用到工业界。“博三博四开始思考去向，各大厂发offer，但他经历过实习感觉"当螺丝钉不是特别有趣”，原本计划先去大厂拿个"天才少年"之类的title再出来创业。正好博士五年级快结束时，团队（翟季冬老师为首席科学家、CEO，几位同届和师弟）一起决定创业——“技术在整个业内非常顶尖，还很被需要，创业要趁早，趁现在身心没那么俱疲。”

三、八卦炉与赤兔：两款核心产品如何把训练和推理的成本打下来

新的变化

清程极智沿着"训练—推理—流通"的技术链条，推出了三款产品：八卦炉（大模型训练系统）、赤兔（推理引擎）、AI Ping（Token服务评测与智能路由）。前两款在创业初期就已有技术积累，第三款是2025年Token爆发后的新增方向。

嘉宾观点与解释

八卦炉：比ChatGPT还早的大模型训练系统。 八卦炉的研发可以追溯到2021年——当时GPT还没火，师天麾团队就在跟唐杰教授和阿里合作，在中国当时最新一代超算上（十万台国产服务器）做大规模训练。这是从清华实验室技术成果转化出来的产品，在国际上首次开源了支持PyTorch的大规模MoE训练，在国产超算上实现了百万亿参数量大模型训练加速。2023-2024年做模型训练的公司比较多，八卦炉当时非常火，客户主要是模型公司和芯片公司。

赤兔推理引擎：让不支持FP8的硬件也能跑FP8甚至FP4。 2025年DeepSeek爆火后，清程极智接到大批私有化部署订单。他们发现一个核心痛点：很多公司和国央企有英伟达老显卡（如安培系列）或国产显卡，而DeepSeek原生精度是FP8（8比特浮点数），这些卡不支持FP8，只能用BF16（16位浮点），要多用一倍显存。举例：买热门国产显卡跑DeepSeek的BF16，需要四台服务器（一台一百万），光试一把本地环境就要五百万起，太贵了。赤兔的特色是纯软件方式让不支持FP8的硬件运行FP8甚至FP4模型——FP8相比BF16省一半显存，FP4（相比FP8精度掉得非常少，甚至效果还好）相比BF16省75%显存，原来四台服务器现在变一台服务器。这需要涉及底层指令级开发，需要对推理引擎和体系结构指令有深入了解，有相当门槛。赤兔之所以能快速加上这个特性，是因为它"非常轻量级，加什么新特性都好加，改什么都好改”。

为什么不用现成的vLLM或SGLang？ 师天麾用联创唐世志博士的比喻解释：vLLM/SGLang这些是"为英伟达而生"的，就像老外爱吃面包、家家户户买烤箱；国产显卡架构不同，就像中国人喜欢吃包子馒头——拿烤箱蒸馒头"也许也能用，但大概不是最好的，不如自己重写一套”。芯片厂商自己也可以做推理引擎，但"术业有专攻”——芯片企业更擅长底层指令集、算子层（且往往不对外开放），更上层的调优做得少；而且即使英伟达发展相对成熟，开放程度依然很高，大部分客户用的也不是英伟达自家的东西。师天麾引用老师的话总结系统人的机会：“做系统的机会在哪里？上层算法应用有新东西出来，或底层硬件有新东西出来，中间系统层就可以做优化。只要上下两层还在创新，中间层就永远有机会。”

商业模式的核心是量化价值。 英法（Infra）这个东西很实在，就看跑得有多快、越快越省钱。如果能把技术量化——你的技术能给公司省多少钱或挣多少钱——商业模式就是卖软件License（装上机器一年给���少钱）或分润（机器做推理产生多少价值分润）。用赤兔优化后，降本可达50%以上。

四、Token经济爆发：从投资人不懂到被追着投

新的变化

2025年DeepSeek爆火是一个分水岭，AI Infra赛道的资本认知在不到一年内发生了翻天覆地的变化。

嘉宾观点与解释

2023-2024年：给投资人讲什么是AI Inference，讲完也没太听懂。 师天麾回忆，早期融资时需要主动去找投资人解释什么是AI Inference（推理），“很多讲完之后也其实没太听懂”。

2025年DeepSeek之后：投资人主动来看AI Inference赛道。 DeepSeek火了之后，“投资人就知道这是什么事情了，会比较主动来看这个赛道”。逻辑是：硬件该上市的上市、估值很高投不进去，而最终投更（推理）成本里，软件加硬件的方案能极大降低成本，于是大家抢着投AI Infra这块——“国内最强的是哪一家，就抢着来投”。推理需求增长太快了，如果成本太高不适合在千行百业落地，“一定要把成本打下来才方便落地”。2024年是清程极智主动找投资人，2025年变成投资人抢着投，融资非常顺利。清华系大模型公司（智谱、月之暗面等）聚集在五道口，“清华门口那个十字路口就成了中国AI的十字路口”，清华标签在融资和招聘上都有实质帮助。

两轮关于"DeepSeek并行服务赚不赚钱"的行业争论，本质是负载之争。 2025年市场火爆时，有做DeepSeek并行服务的AI硬件公司老板说亏钱、不是好生意，另一家说不，是你技术不行。师天麾认为"两位都没说错"，区别在于负载：机器跑满（到上限）可以挣钱，跑到70-80%也可以挣钱，但只跑到20%就要亏钱。DeepSeek公布自己是挣钱的，重要原因是它负载非常高（太火爆），晚上还会把部分机器拆去做训练，整体能挣钱；但对其他企业就不一定。争论的本质是"你企业能不能把负载打到比较高的水平"——既看技术，也看客户需求量。

五、AI Ping：Token服务市场是个"黑盒"，需要中立第三方来评测和路由

新的变化

DeepSeek爆火后，大量有硬件的企业（云厂商、数据中心）都做了MaaS平台卖Token。但MaaS是黑盒——用户为Token付费，却不知道背后推理怎么部署、用什么硬件，导致"花同样的钱买到不一样的效果"。清程极智2025年中推出AI Ping（aiping.cn），做Token服务质量评测+智能路由。

嘉宾观点与解释

同样的DeepSeek、同样的价格，性能可以差五倍以上。 师天麾指出，MaaS平台的黑盒特性带来两个问题：一是服务质量（延迟、吞吐、可靠性、缓存命中率），同样的硬件同样的模型不同部署效果不同，但都叫DeepSeek、标价看着差不多；二是模型效果（用benchmark跑数据集，看是原版还是用了激进量化的版本）。他们测过一些最大的垂直领域平台，同样的价格性能差五倍以上。中小企业不可能把几十家都测完再选一个合适的。

AI Ping做的事：30余家服务商、600余项模型服务、7×24小时评测+毫秒级智能路由。 平台汇聚主流服务商和热门模型，做实时性能评测并排名展示（免费对所有用户开放）。商业化在路由端：企业大规模采购有折扣价，AI Ping以更低价买入再加价卖给客户（不会加到原价），客户为"省心+筛选"付费。智能路由根据实时性能数据自动帮你选当前谁空闲、质量好——因为"我要的不是厂商A的DeepSeek，我要的是效果好的DeepSeek，你叫什么名字我不关心"。

为什么大厂不方便做这件事？ 投资人常问"如果火山引擎做怎么办、阿里做怎么办"——师天麾认为这些平台方"不太方便评价自己和竞争对手谁做得好，因为一定说自己做的好"，而清程极智作为中立第三方可以做。甚至有国产芯片厂商想在平台打广告，被拒绝了——“瓜田李下，就算买了广告也不提升排名”。这是一件长期的事，赚一波快钱不符合公司风格。

类似国外的OpenRouter，但国内天花板更高。 OpenRouter主要用国外闭源模型（Claude、GPT），闭源模型就那么几家，路由选择空间有限、优化天花板有限。而国内开源模型百花齐放、可选服务商多，“选择越多天花板越高”，通过评测和路由能力能摸到更高的性能/性价比上限。

六、关于市场、竞争与未来：创新永无止境，Token经济还远未到终局

新的变化

AI Infra赛道在快速演进，面临芯片厂商自建软件栈的挤压、行业标准化压缩中间层空间等讨论，同时Token出海（中国模型海外用户比例急剧上升）成为新机会。

嘉宾观点与解释

Token市场当前处于"混沌期"：需求涨太快导致涨价和变差同时发生。 从评测数据看，2025年服务质量比2024年变差、价格还更贵——因为Token需求涨得太快（尤其是OpenAI o类推理模型之后），供不应求必然涨价、服务质量下降。中国模型普遍比国外便宜，GPT和Claude定价差不多且都很贵；国内市场和国外市场是两块，各自内部竞争。

Token出海是真实机会。 中国模型便宜，海外很多企业就是要用便宜模型，国产模型性价比很高。OpenRouter公布的数据显示平台上用中国模型的海外用户比例急剧上升。

中间层会不会被标准化压缩？ 师天麾引用老师的话回应：系统人的机会在上层（算法应用）或下层（硬件）有新东西出来时。如果上下两层都没变化了，中间层机会确实会变少——“但这相当于说AI发展到时候发展不动，硬件迭代不动了，这还是有点远的，创新是永无止境的。“未来随着AI百花齐放和真正大规模降本，会出来各种专用模型、专用硬件芯片、专用算法（如蒸馏小模型实现通用大模型能力），这些都是"新挑战者更擅长的事情”。

清程极智的独特位置：全栈+Token"生产与流通"双布局。 师天麾坦承AI Infra"不太性感，不能像应用或AGI一样讲出花哨的故事”，本质就是像国家电网一样扎扎实实把基础设施做好。但清程极智的区别在于：既在Token这一层做生产（赤兔），又在Token这一层做流通（AI Ping评测路由），技术栈非常全栈。

七、管理哲学与个人成长：从"I人"到管培生，谁行谁上

新的变化

一群高密度技术人才从实验室走向商业化，面临从"一个人搞定一切"到"让公司高效运转"的角色转变。

嘉宾观点与解释

创业最大的感受是"不断学习"。 之前所有时间都是一个人的事——你只要厉害就能做出好成果（比如发论文五天内改代码改十几个小时）。但创业后"我付出再多也只是一个人"，要想办法让公司高效运转。公司很复杂，技术只占50%甚至不到，品牌、销售、研发、产品、战略、融资都关键，“不能有短板，掉一环可能出大问题”。

师天麾自称是清程极智的"管培生"。 除了财务、法务、融资没太多参与，其他岗位都轮过：人少时带小同学做研发demo；团队起来后做产品；赤兔火了之后没有正式销售，他就当销售跑市场见客户——“提前天晚上把PPT多讲几遍，上来心砰砰跳，后来讲都讲麻了”。他享受学新东西的机会：“如果你真去大厂就当螺丝钉，人家付你工资是冲你会的东西来的，不会给你学新东西的机会。”

管理风格：谁行谁上，敢放权。 清程极智不唯学历论——师天麾特别提到一位"零号实习生"是二本出身，但从高中开始做代码、水平极高，几位高管评价都非常高。公司吸引了不少大厂员工降薪加入，反馈是"舒服，不用内耗，不用搞上下级和办公室政治，沟通决策都快"。师天麾的放权理念是：“如果你掌握了足够多信息，这块事你就直接负责了——你做决策的角度和信息跟我是一致的，咱俩都是聪明人，做的决策差不多，小事不用告诉我，重要事通知一声就行。”

关于天赋与努力。 师天麾见过太多天才（比如一个高一才开始学编程、平时打游戏还能金牌保送的同学），他对自己的定位是"不是最聪明的那帮人，但我很认真"。他用硬件和软件的类比总结：“天赋决定了你的天花板（硬件），努力决定了你能摸高摸到多少（软件）。“但无论你再强，总能找到比你更帅、更聪明、更努力、情商还更高的人——“差不多就行了，做自己喜欢的自己就好。”

结语

清程极智的故事，本质上是中国AI产业重心迁移的一个缩影——从"谁拥有更强模型"转向"谁能更高效、更稳定、更低成本地运行模型”。师天麾和团队十余年在高性能计算方向的坚持（从超算竞赛到图挖掘到推理引擎），在2025年Token大爆发时迎来了商业回报。他希望清程极智成为"国产化里非常不可替代的一环”，但也不希望公司过于快速扩张——“如果那种团队氛围好、管理风格好、敏捷的风格出现偏移，会觉得非常对不起当时信任我的同学”。这种在高密度人才、扎实技术和清醒认知之间的平衡，或许正是清华系AI Infra创业团队区别于讲花哨故事公司的底色。