【AI Talk】10 Human in the loop 是 Agent 的点睛之笔

年后爆火的 Openclaw 和后浪 Harness Agent 实际上是在用对话的形式来做 Human in the loop。对话的形式非常自然、非常轻松、非常有甩手掌柜的感觉。但实际上，如果你真的用这些Agent的时候，你会发现它上限也许很高，但下限确实很低。

OpenClaw 要配上各种 Skill，怎么选择 Skill 就成了新的问题，于是就有了帮你选 Skill 的 Skill 和让 Skill 自己迭代的 Skill。逻辑上听起来很完美，但实际上一定会遇到如下问题：1）怎么验证选的 Skill，写的 Skill 是否有效。2）如果有一个 60 分的 skill，怎么才能提升到 90分。3）skill 本身的灵活性和流程的多变性结合，如何得到稳定的交付物。

当我被这三个问题反复折磨的时候，我突然意识到了一个问题。如果我的目标是打死一只蚊子，那么用大炮打蚊子，只要打死了，我还可以安慰自己至少达成了目标，而成本（大炮）是可以优化的。但如果实际上变成了用大炮放烟花，那就完全没有任何意义了，因为我实际上并不需要机器给我提供情绪价值。

于是我把 Agent 的完整执行日志整理了出来，发现核心的问题并不在于 Agent 执行不到位，也不是大方向思路不对，而是在一些关键细节的决策上出现偏差，这些偏差逐步积累，最终导致整个交付产物不可用。这样一来，问题变得简单，也变得复杂了。简单在于，实际上我只需要把这些关键细节拎出来，让人来决策就可以。复杂在于，怎么判断一个细节是否关键。

如果事事都要人来确认，实际上 Agent 节省的只是重复机械劳动的时间，而这些时间通过软件工程实际上能节省得更彻底。如果只对关键细节做确认，缺失部分执行上下文的决策者实际上并不一定能做出比 Agent 更好的决策。那么问题来了：向左走还是向右走，依赖人还是不用人？

对于大模型厂商来说，因为要讲 AGI 和替代打工人的故事，一定是通过更多的 Token 和更强的模型来提升关键细节的决策成功率。这实际上是可行的，因为用 Agent 的对话和反馈实际上就是很好的强化学习训练数据，Claude Code 记录用户破防本质上是非常聪明的做法，因为用户在Agent做得好的时候不一定会夸，但做得不好肯定会骂。只要在类似的任务上积累足够多的数据和消耗足够多的算力，一定会有非常大的提升。

但是对于要和其他人、其他组织、其他公司博弈的场景里，叠加上信息不完全透明，这一套实际上和扔硬币没有区别。举个例子，A 知道关键信息，B 不知道，那么 A 可以通过信息差占据优势。A 知道关键信息，A 知道 B 也知道这个信息，B 不知道 A 知道自己知道，那么 A 实际上仍然可以利用这个信息占据优势。反过来，如果 B 知道 A 知道自己知道，那么 B 也可以想办法利用这个信息。这个套路不是不可以让大模型学习，但从目前大家重点发力编程和图像视频来看，短期内（甚至中期内）都不会有太多进展。

那么在这样的场景下，谁能把 Human in the loop 整合到 Agent 的流程中，谁就能拿到巨大的竞争优势。因为只要解决了关键细节判断时机和决策胜率的问题，Agent 带来的效率提升是指数级别的。而在这个环节中不断用一个相对小模型学习和模仿软智能，配合上硬智能越来越强的大模型，是我当下认为的解决方案。对于非大模型厂商来说，谁能先构建自己的软智能模型，跑通强化学习的飞轮，谁就能滚雪球在细分市场逐步取得优势并建立足够高的竞争壁垒。

用最近大火的张雪机车来比喻，赛车比的一定是车，但实际上比的是开车的人，和人车合一。个人只有逐步构建的软智能体系，才能更好地对接不断快速提升的硬智能。从这个角度说，一个好的 Human in the loop 设计，不但能大幅提升 Agent 的交付质量，更是软智能模型的根基，是点睛之笔。