后训练不是AI应用的救世主

该做还是要做。

@郭允骁

最近几个月,市场没什么主题。具身陷入低谷,互动游戏数据很差,世界模型全球 Top1 只卖了80多亿美金,Personal Agent 创业公司很难进入,RSI 也是和大部分人没什么关系。也就擦边陪伴还有水花。

AI应用依然处于一个较为尴尬的周期。

如果此刻你是一个要融下一轮的AI应用的 founder ,你该怎么办?

有些公司开始大谈应用转型模型公司的故事,毕竟看起来,后训练比从预训练开始要简单不少。而模型公司可比应用公司值钱多了。

但很快,这类故事就经历了两次反转。先是认为这又是个忽悠钱的新叙事,而后发现后训练对应用公司还是有些用,至少可以帮助公司优化成本。

后训练救是救不了应用公司的,但现在来看还是得做。

"都该做后训练"

简单理解,预训练是读书,后训练是刷题。练了什么,以后就更擅长做什么。

后训练真正进入应用公司们的视野,是2026年上半年。因为在此之前,AI应用公司几乎探索了所有的可能性,但拿到结果的不多,而模型公司依旧陡峭。人们逐渐意识到模型公司和应用公司之间的本质区别。

所以,对模型公司的追逐,陆续迁移到视频模型、3D模型、世界模型等等。这于投资人的致命诱惑在于,这些公司让他们能以一个付得起的价格,弥补没投进上一波语言模型的遗憾。目前看来,其他基模终都没有成为语言模型,应用公司当然更没有。

但很快,这样的故事听得多了,大家又意识到后训练并不会让一家应用公司变成模型公司。基模强在可以覆盖很多通用场景,成为基础设施;但理论上,应用公司的后训练模型,应该是越偏科、越贴近自己业务越好。这就又变回了只与应用公司自己的业务有关。

投资人们很快又下头了,觉得这是个太过漂浮的故事。

很快又有转机。除了 Harvey 和 Cursor 这两个知名的后训练案例,9月,Genspark 公布了他们联合 Fireworks AI 基于 MiniMax M3 的后训练成果,一个定向强化了幻灯片制作的模型 Gen-1 Slides 。官方文档说,用这个模型做幻灯片和 Opus 5 的质量近似,但价格是1/ 17。一些接近海外后训练平台的人告诉我,这只是 Genspark 在推进的后训练模型之一。

Manus 就认为用户不必了解任务背后是什么模型驱动,无论是不是自己的。坊间的说法是,Manus 很早开启了后训练,目前已经有很大比例地实际应用。在最近Manus 2.0 发布中,他们提到新的 Cascade 架构比之前的系统,少使用了 23.2% 的 tokens,任务完成时间缩短了 28.2%,运行成本降低了 32%。其中或许有部分是后训练带来的增益。

顺便提一下视频模型。因为 Seedance 的长期领先,直到 WAN 2.7、3.0 和 MiniMax H3 发布才陆续有视频 agent 公司正式考虑后训练。目前视频模型后训练的一个主要方向是生成速度,当生成速度接近或快于视频本身的播放速度时,可以解锁类似长程实时互动的场景。据我们所知,一些视频应用公司对于是否要进行大规模后训练还存在分歧。

但总得来说,基于语言模型 coding 能力而构建的应用要做后训练,这个共识还是逐渐形成了。这并非一个能融到下一轮的故事,但对经营一家公司还是有好处的。

顶尖模型还是太贵了。大家陆续开始意识到,UE(Unit Economics,单位经济模型)是个关键问题。在单个用户的维度上至少不亏钱,才能正常运营一个产品。这个问题几乎等同于如何用上更便宜的 token 。

越来越像制造业了。

目前模型的供应还是个卖方市场。即便只看模型厂商的官方模型,不同产品线上,提升智能上限和面向日常任务已经出现分岔的迹象。所以供应链管理该做还是要做,充分评估、比价、路由、甚至自建一部分,都是合理的选择。而后训练,就是供应链里重要的自建部分。

当然,以上只是一个笼统的感受,其中各方对后训练的理解并不相同。投资人们聊的都是庞大规模的RL环境(这当然很好),但一些早期 founder 实际在考虑的都是调参,或是小规模的偏好学习。

没那么简单

后训练在技术层面没有太多秘密。

目前后训练的方法基本收敛到以下几层:小规模调参,例如 LoRA ,主要让模型模仿特定的格式;SFT(监督微调),用成对的"输入-理想输出"让基座模型模仿,几千条数据、几千美元就可以达成一定效果。这些东西现在已经是完整后训练的前置步骤。

更近一步地,有 RLHF 和 DPO 等偏好方法,用评委模型或人类来标记一对现成的答案哪个更好。这里,训练的算力消耗并没有明显增高,但人类(尤其专家)标注的成本很高。这是一种刷语文题的方法。

然后就是 RLVR ,单论这种方法本身,其实只需要题库和明确的验证规则,并不需要给模型以示范。模型在每道题上进行大量冗余尝试,给每种方法打分之后,模型就能学会哪些思路是更优的。目前所有人讨论的 Agentic RL ,本质上也是在仿真环境里,在更复杂的多步骤任务上 RLVR 。

这里有一个根本的成本结构变化:数据更多服务于 rollout 范围、任务分布和 verifier 的构建,随着而推理规模的扩大,成本也会有数量级的上升。

从应用公司投入的角度看,后训练这件事有点太过丰俭由人了。从几十到千万美金级别的投入,都叫后训练,都有可落地的操作方法。

但麻烦的是,很多应用公司并非 day one 就将后训练纳入路线图中考虑,这样需要补课的东西就比较多了。如何建立自己的 eval ,如何在关键环节得到可验证的结果,如何把数据变成可训练的资产等等,很多事项都被笼统地概括为搭建环境,每一项也都多少需要点手感。

无论是投入还是难度,后训练都并非看起来那么简单。但要是考虑到回报,又缺乏一个明确的对照。这些都导致大部分中国创业公司们嘴上说着后训练,实际都还在观望,或是浅尝辄止。

这也能从生态环境上反映出来。Post-train as a Service 在硅谷已经在逐渐成熟,传统云厂、Neocloud、推理商、NeoLabs,他们的业务多多少少都与此相关。其中相当多公司的已经可以提供标准化或是全托管的后训练服务,甚至因为有 eval 这种部分的存在,全包的服务还有不少咨询公司的影子。

在这些后训练服务商的客户里,并非都是AI应用,也有很多希望用好AI的传统企业在采购服务,其中的一部分甚至后训练的模型是偏内部的,并不主要参与他们自身对下一层客户的服务。同时,开源模型后训练自部署,又是一个非常契合数据合规需求的路径。这里既有老生常谈的企业服务生态的问题,也有我们之前提到的,现金充足、对业务理解深刻是开展有效后训练的前提。

在中国,这还不是一个蓬勃的生态。云厂、推理商等等很多处于相同生态位上的中国公司,其实并没有开展后训练业务,服务就只提供到微调为止。创业公司里,今年夏天马卡龙发布了一系列后训练模型,以 Mind Lab 的名义转型后训练平台,做的是 LoRA 这类最简单的后训练服务。一些founder们接到过他们的后训练报价,大概在几十万人民币上下。

一位投资人曾经想到过孵化后训练服务商,但一些模型厂里后训练 researcher 对他说,"出来创业做这个,又辛苦又不赚钱"。尤其是相比于数商,后训练是一个重资产、重运营、重销售的生意,但目前这些应用公司还仅仅处于需求酝酿的阶段,会不会爆发并不好说。

为什么应用公司(或是中国其他公司)后训练的需求是雷声大雨点小,最终的根因又会回到现金充足、对业务理解深刻这两件事上来。

怎样算好?

一些人还不够重视的是,eval 是后训练里最关键的环节之一。

有从事 eval 的人告诉我,这项工作像是AI时代的产品经理:把用户的主观体验变得尽可能客观、量化,更高目标是定义和引领用户体验。这样,评估工作就又回到了一组任务分布和一套打分规则的组合上。

Eval 和 RL 异曲同工。

在模型厂视角里,第三方的 eval 是公共目标,一些 benchmark 之所以会形成共识,就是因为它找到了那些不同模型存在差距、但又值得关注的问题。而一套 benchmark 又会存在半衰期,是因为在它发布后,评测本身会成为训练目标。把 bench 改造成训练环境,让模型进去反复刷题,就能得到在这些通用评测上的分数提升。

应用公司的 eval 不一定要具备太多公共价值,但它回答的是一个更根本的问题:我们公司到底在解决什么问题?对我们来说,这件事做到怎样算好?这套任务和评分标准,事实上是这家公司对自身业务的全部理解凝练而成。

这至少部分解释了eval与模型能力提升之间的关系。

定义好的 bench ,成为训练环境,后训练提升模型能力,不同模型在 bench 上的能力差距被抹平,重新定义新的 bench ……在这个循环里,评估效果成为了牵引模型前进的动力。这也是一些人认为,在后训练进入大规模RL后,定义好的问题就变成了少数人类还在持续产生作用的地方。

同时, eval 不是一成不变的。随着后训练的进行,曾经不达标的能力被解锁,再融入业务中。 eval 要做的就是持续地找到下一个模型能力参差、业务上又需要运用的能力。测出差距,再能通过后训练把这些能力拉高。

建立好的 eval 是改进的基础,也是后训练的开端。但回到AI应用 founder 们的视角上,在瞬息万变的时代里抓住业务的本质,可能是必要但又显得有些严苛的一件事。所以在一些投资人看来,这也是一个观察创始人是否"第一性"的窗口。

后训练并不对应某个单一层面的问题,而是一种战略判断。

公司还是要服务好自己的客户,对AI应用公司而言,后训练也只是其中的技术手段之一。后训练显然能提升一些表现,但投入产出能否打平,甚至未必是一笔算得清的账。

至于做了后训练能否让公司再上一个台阶,是另一个问题了。

封面来源:Rosa Bonheur, The Horse Fair, 1852–55, Metropolitan Museum of Art