ChatGPT之后,下一个AI爆点是它?
过去几个月我一直在研究长期运行的持久化智能体。我相信这会是 ChatGPT 和 Codex 之后下一个改变范式的产品。
目前这个方向还存在不少挑战,我正在写一篇更长的文章,分享我从中得到的经验和思考,聊聊为什么我认为下一个重大突破是解决心智理论问题。
以下是我的一些零散想法:
- ChatGPT 和 Codex 之后,下一个改变范式的产品会是持久化个人/工作智能体
- 阻碍我们做出这类智能体的问题是:我们的模型还不会「读懂环境」
「读懂环境」听起来很虚,但它本质就是深度的心智理论。
能不能读懂环境,就是和机器人对话,与和一个你能信任、能帮你完成任务、能帮你和同事沟通的实体身份对话的区别。
读懂环境意味着要理解「你的主人」是什么样的人、他们的欲望和动机,以及你的受众是谁。
具体来说,就是要区分「我知道什么」「我的用户知道什么」「在场的人都知道什么」。把信息不对称作为一项核心技能。
这其中也包括对信息分区的理解。企业里把这个叫做帐篷隔离与工作区隔离:「如果我的用户属于这个帐篷,就不要把信息泄露到不属于这个帐篷的公开频道里」。
就好比我把我家地址告诉朋友,我会信任他不会把地址发到一千人的大群里。但我现在还不信任模型能做到这种程度的审慎。
像 OpenClaw 这类框架一直在应用层解决这个问题,靠权限、工作区隔离、上下文注入,还有越来越复杂的智能体框架。这些在目前是必要的,但作为最终解决方案大概率是没用的。审慎必须是模型本身自带的能力。
副作用就是:这也是为什么现在模型写出来的东西都是垃圾。好的写作就是要适配你的受众,这恰恰就是模型缺失的同一项技能。
总结:持久化智能体的生死存亡取决于能否读懂环境,而心智理论可能是 AGI 到来之前最后几个主要缺口之一。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖