AI Pulse

错误的上下文,是智能体失灵的主因

错误的上下文,是智能体失灵的主因

无论团队是3人还是300人,总会有一些奇怪、高度特定的工作流,以及人们脑子里那些没人知道或理解的随机信息。当我们进入一个智能体(agentic)时代,你需要一个企业大脑。

这篇文章要讲的教训是:智能体失灵主要是因为拿到了错误的上下文。

你的企业其实已经有一个“大脑”,只是它散落在Slack、通话录音、CRM、合同、战略文档和员工头脑里……

大多数公司试图通过给智能体更多信息来修复记忆。但这只能短期有效。最终,记忆本身会变成瓶颈——因为虽然智能体掌握了所有信息,它们却无法在正确的时间调出正确的上下文。

存储企业所知道的,容易。难的是决定每个智能体应该看到什么、该信任哪些来源、谁可以使用它,以及如何让每一次修正变成自我改进的工作。

本指南会告诉你如何构建完整系统。

企业大脑是一个闭环

企业大脑的价值不在于存储了多少知识,而在于连接工作、上下文、判断和修正的回路。完整回路如下:

采集(Capture) → 检索(Retrieve) → 信任校验(Trust) → 执行(Act) → 修正(Correct) → 路由(Route) → 审核(Review) → 共享(Share) → 改进(Improve)

如果任何一环断了,输出质量就会下降。这就是为什么一个文档文件夹不能成为可行的企业大脑。大脑需要一张地图、一个来源顺序、权限边界和一个反馈回路。

让每一层做它擅长的事:

- 采集:收集原始材料。
- 地图:告诉每个智能体先看哪里。
- 真相源(Source truth):决定哪种答案胜出。
- 权限:让每个工作流留在自己的围墙内。
- 技能与工作流(Skills and workers):让已证明有效的工作可重复。
- 修正回路:把人类修正变成共享规则。

人类负责判断、任务简报(briefing)和上下文;智能体负责检索。

先构建知识地图

这是最关键的第一步,因为所有智能体都会先读这张地图。从每个智能体做出一致决策所需的知识开始,创建以下结构:

1. 我们做什么——公司、客户、产品、定位。

2. 当前什么重要:
> 优先级1
> 优先级2
> 优先级3

3. 来源顺序——系统拥有当前事实、项目状态和客户承诺。

4. 规则:
> 使用最新获批的信息。
> 当两个来源冲突时,遵守来源顺序。
> 如果答案缺失,上报它。
> 永远不要把幻觉(hallucination)加入企业知识。

知识地图要足够让智能体理解它在哪里、什么重要、下一步去哪看。而企业大脑本身是一个已接受知识、可复用示例、规则和源材料链接的归档。大脑应该随着成长而变得更加有选择性。

创建六层体系:每层一项职责

每个智能体层级都需要拥有一个决策、返回一个输出,并且明确自己在哪里停下。用这个契约来约定每一层:

- 负责(Owns):该层负责的决策。
- 读取(Reads):该层可以使用的来源。
- 返回(Returns):下一步收到的准确输出。
- 禁止(Must not):属于另一层或人类的决策。
- 完成标准(Done when):可观察的交接条件。

现在来搭建这六层。

1. 采集层:收集公司产生的东西

采集层负责拉入通话、CRM活动、SOP(标准作业程序)、Slack线程、产出物和修正记录。它不判断什么是真的,也不决定智能体该看到什么。

对每一条输入,它返回:

- 原始材料
- 它来自哪里
- 创建时间
- 谁拥有它
- 它可能服务于哪些工作流

采集层是团队通常开始的地方,也通常是他们停止的地方。

2. 检索层:为当前任务调取正确的上下文

智能体不需要公司的全部历史,它只需要当前正在做的那个任务所需要的少数几样东西。

例如,一个管线(pipeline)复盘需要:交易阶段变化、停滞账户、近期通话笔记、未解决的异议、下一步行动,以及CRM应该说什么。

一个良好系统每天工作的一部分,就是判断在工作中的每个节点上,哪些上下文和记忆仍然相关,同时保留所有会造成过载的信息。

3. 真相源层:在分歧中拥有最终发言权

一旦智能体可以检索上下文,下一个要解决的问题就是信任。

如果销售电话、CRM、Slack笔记、旧SOP、最新周报和创始人昨晚的语音留言都各说各话……哪一个赢?

要回答这个问题,对每个来源进行分类:

- 实时真相(Live truth)
- 历史上下文(Historical context)
- 参考灵感(Inspiration)
- 绝不公开使用(Never used publicly)

每个智能体应该从同样三个地方获得简报:指令、通用知识、以及保持最新状态的实时系统。所以要保持这些内容最新,因为智能体会信任它看到的东西。

4. 权限层:决定每个工作流允许用什么

当每个智能体都能看到一切,企业智能就会变得危险。系统应该在开始生成任何内容之前,就知道一个任务可以使用什么。

如果你跳过这层,你会遇到两种结果之一:要么大脑泄密,要么你把它限制得太死,变得完全无用。

5. 技能与工作流层:创造可重复的工作

知识告诉智能体什么是真的,判断告诉它好的工作是怎么做出来的。你想存储三种判断:

- 政策(Policies):每次适用的偏好。
- 技能(Skills):针对特定任务的成熟技术。
- 工作流(Workers):有明确输入、步骤、输出和条件的可重复序列。

这样,就没人需要原始的聊天记录。

6. 修正回路层:把修正变成规则

假设一个智能体写了一篇很强的提案,但用了上个季度的定位……通常的做法是修改提案里的句子、发出去、然后继续。但这不会帮助你的系统改进。

有用的问题是:为什么旧定位还在那里?是企业简报过期了?是新决定没有被记录?还是别的原因?

要修复这层,把每个修正路由到它该去的地方:

- 缺失或过时的事实 → 企业知识
- 新的战略选择 → 决策记录
- 重复出现的偏好 → 政策
- 成熟的技术 → 技能
- 可重复的序列 → 工作流
- 危险的操作 → 硬门禁(hard gate)

之后,评估工作,看看什么有效什么无效。这就是智能体每天改进,而不是不断重复同样错误的方式。

给企业大脑一个统一的家

文件夹只有在一个人拥有整个系统时才有效。一旦有10个人加入,可能有人正在编辑一个政策,而另一个人还在用旧政策。企业大脑需要一个统一的家。

- 把规则、上下文和政策放进代码,并进行版本控制。
- 确保每次变更都可追踪、可审查、可回滚。

给领域专家一个简单的前端,让他们无需碰 Git 就能添加上下文和修正。

让每一次变更都可审查

如果团队成员找到更好的做法,变更通过审查后进入主大脑。给每个提议的变更一条记录:

- 变更内容(Change):添加、更新或删除什么?
- 类型(Type):事实、决策、政策、技能、工作流或门禁。
- 来源(Source):触发它的电话、文档或修正。
- 适用工作流(Workflow):变更应用到哪里。
- 提议人(Proposed by):提出它的人类或智能体。
- 审查人(Reviewed by):该领域的负责人。
- 状态(Status):待提交、已批准或已驳回。

这样,你可以追溯任何输出的来源,而不必打开10个对话。

本周搭建最小可用版本

1. 写知识地图,包含最简企业简报、优先级和来源顺序。
2. 选一个重复出现的工作流先加入。
3. 只给这个工作流连接采集和检索。
4. 定义来源顺序和权限边界。
5. 用三份真实工作运行工作流。
6. 把每个修正路由到正确的层级。
7. 当修正开始重复时,加入每周复盘。
8. 在脑学习你的标准时,保留人工审批。

挑一个工作流开始,等你有信心了再继续添加更多。

阅读原文
📚 相关主题 企业数字化

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新