回到首页

输入关键词,多个关键词用空格分隔。

← AI Talk · 系列目录

【AI Talk】12 对 Agent 严肃的公司一定会做自己的模型

约 4 分钟
本页目录

不知道大家有没有听过这样一句话:“A company that’s serious about software should make its own hardware.”—— 对软件严肃的公司,一定会做自己的硬件。

乔布斯的这句话放在今天依然适用:iPhone和 iOS,Mac 和 macOS,再到底层的 M 系列芯片,在我看来都是这句话的精神延伸。华为实际上也在走这条路线,从手机到电脑再到车,从鸿蒙到海思,应用层和基础层的整合催生了人无我有的新产品(三折和大阔折是集中体现)。

而在这一轮 Agent 的浪潮中,这句话可以引申一下:“对 Agent 严肃的公司,一定会做自己的大模型。对大模型严肃的公司,一定会做自己的 Agent。”

甜蜜的毒药

随着模型能力越来越强,大模型对数据的需求也从文本到多模态,从静态知识到动态决策,从方案到执行。更大的数据需求如何满足?那就让全部的用户成为数据本身:公司用 Agent 蒸馏员工,基座大模型用 Agent 蒸馏公司。在这个大鱼吃小鱼,小鱼吃虾米的游戏中,大模型套壳是甜蜜的毒药,甜蜜在看起来无所不能,毒药在把自己的数据交出去。个人和公司独有的数据交完了,就像榨完汁的甘蔗,统一回收。

每个做 Agent 的公司都要回答一个问题:“你们的 Agent 和直接用 Claude Code 或者龙虾有啥区别。” 如果差别只是在于 skills,那么最好的办法就是开源吸引流量来起号。如果还带上了一个知识库,那么确实可以带上更多的领域知识,但很有可能大模型的下一个版本就会把这些数据占为己有。对于现在 2-3 个月迭代一个版本的大模型来说,这点时间差还不足以建立足够的竞争优势。

Agentic Model:把数据优势转为模型优势

真正将 Agent 规模化的公司,必须拥有对工具调用模型的高度定制能力。这种定制不一定是从头造模型,而是通过微调开源模型,并建立持续的数据闭环优化 token 效率,我称之为 ”Private Agentic Model“(下文简称 PAM)。这样做有两个显而易见的好处:一是单位 Token 的成本降低,二是完成任务所需的 Token 减少(时间和算力成本都降低)。还有一个隐藏的好处:把数据优势转化为差异化的模型优势。

实际上,一个 7B 型在经过高质量垂直数据微调后,在特定任务上可以轻松超越 200B 的通用模型,并且用户的感知会非常直观:一个详细精准,一个泛泛而谈。尤其是在和人或其他公司博弈产生的过程和结果数据,更是非常有价值,是花钱也买不到的数据。

大小还是小大

那么下一个问题来了:是大模型调用 PAM,还是 PAM 调用大模型?

维度模式A:大模型调用 PAM(大→小)模式B:PAM 调用大模型(小→大)
调用频率每次任务都调用外部大模型(主控)大部分简单任务只用 PAM,复杂时才调大模型
成本高(外部大模型每次会话都参与)低(多数 token 来自 PAM 推理)
延迟相对高(外部 API 网络往返)简单任务极快,复杂任务增加一次额外调用
PAM 能力要求只需要专精于执行具体工具(格式转换、参数解析、代码运行)需要具备规划、决策、自知之明、工具选择能力
训练难度低(只需 SFT 教会调用固定几种工具)中等(需要构造包含“拒绝”或“升级”决策的数据)
可解释性高(外部大模型的思考链清晰可见)中等(PAM 的内部决策可能难调试)
系统耦合度松耦合(替换 PAM 不影响整体流程)紧耦合(PAM 错误会影响整个任务)

没有标准答案,但一个符合工程直觉的方向是:PAM 作为主控,但支持“软升级”——当 PAM 输出的置信度低于阈值时,自动回退到外部大模型。这样就取了两种方案的优点,避开了两种方案的缺点。那么,代价是什么呢?代价是不容易做到,因为怎么把握”度“本身就是一个很难的事情。

我们通过 PAM,关键不是为了“藏住数据”,而是“藏住如何用数据做决策的独特方法”,这正是最难以逆向的部分。当然,PAM 同样可以被蒸馏,但持续保持 3-6 个月的领先,已经可以转化为市场优势,进而扩大领先优势。所以实际上百花齐放的应用场景,就对应不同公司的不同 PAM,背后是独特业务数据驱动的持续优化闭环,这是AI 原生的”业务模型“。

写在最后

以前我们说”纸上得来终觉浅,绝知此事要躬行”,现在则是”问遍模型终觉浅,绝知此事要躬行”。大模型的出现把几乎所有事情都变成了”知易行难“,做 Agent 不要停留在表层,要朝 PAM 的目标勇往直前。

相关文章