AI Pulse

你给AI配的“记忆”,只是每次对话前自动粘贴的一段文字

你给AI配的“记忆”,只是每次对话前自动粘贴的一段文字

语言模型没有自己的记忆。每一次请求都从空白提示开始,模型“记得”的内容,是别人写进提示里的文本。所有记忆产品做的其实是同一件事:把一段关于你的文字粘进提示,让模型照着回答。

任何一款记忆产品都做五件事:捕获、决定、存储、查找、注入。捕获记录发生了什么,决定挑选值得保存的内容。存储把内容放到可检索的地方,查找在新会话开始时找到相关内容。注入把内容粘进提示,受token预算限制。

这五件事的售卖方式分四种:自托管库、托管服务、云平台功能、内置在助手里。三十款产品按销售者分成七个家族,同一个家族的产品往往用相同方式保存、读取和计费。

产品差异只在两个选择上

产品之间的真正差异只有两个:对话结束后保存什么,下一次提示里粘贴什么。其余功能清单都由这两个选择派生出来。

真正拉开差距的是“取代测试”。关键不是能否回忆起某个事实,而是新事实是否取代旧事实。提示里只收到仍然真实的那一个。矛盾事实的处理方式,各家各有一套。

Graphiti用时间感知图。旧事实被标记结束日期而不是删除,因此能回答“三月份时什么是真的”。Google Memory Bank相反,矛盾事实到达时直接删除旧事实。

重写块是另一类,Letta、Anthropic的API记忆工具、ChatGPT档案都属于它。做法是让模型在固定大小的文本块里原位编辑。版本链的Elastic参考设计和Hindsight让新事实取代旧事实,旧事实保留但隐藏。MemoryOS和MemOS靠热度提升,按使用频率把记忆从短期队列推进长期档案。Supermemory靠后台“做梦”合并新记忆,矛盾事实怎么处理没有文档。

CrewAI给了个具体例子。它的去重阈值是0.98,查找阈值是0.85。"Postgres 14“和”Postgres 16“会被视为相似,但不会被当作重复项清理。AI可能一边知道你换了数据库版本,一边继续用旧版本回答。

Honcho是唯一不用”事实“而用”结论"做记忆单位的产品。它按陈述、推断、猜测三个等级保存,但AGPL-3.0许可能让一些公司直接排除它。

过时信息和静默失败

知识更新是整个行业最弱的一环。标准基准LoCoMo本身就没有知识更新问题,Zep自己指出过这一点。十二个记忆系统和两个基线跑在同一个测试台上。知识更新问题的最佳精确匹配分数只有44.4。连一半正确都不到。

提取环节也容易出错。一项独立研究里,格式错误率从gpt-4o-mini的约18%到3B Qwen模型的约30%。大约五分之一的提取静默失败。你以为AI记住了你的偏好,它可能根本没记下。构建A-MEM的索引在一个基准上花了约15小时。一个研究系统在同样工作上消耗超过700万tokens。

基准分数和账单都有水分

两个常用基准都小到能塞进一条提示里。LoCoMo对话约2万tokens,LongMemEval短形式约10.3万tokens。在这样的规模下,Mem0自己的论文里,完整上下文72.90分,Mem0 66.88分。完整上下文赢了6分。别把它当胜负判定。换一个评判者重新评分同一组答案,分数从55.8变成81.4,波动26个百分点。

重跑分数的现象不止一次出现。Zep重新运行了Mem0报告的Zep数字,得到75.14%。Mem0报的是65.99%。一份2026年的基准论文引用了用户提交的问题。那些问题报告无法复现Mem0发布的LoCoMo分数。

提取模型才是真正的计量器。记忆供应商的价格是两个账单里较小的那个,较大的来自你的模型提供商。AWS的内置提取标价,是自行提取的三倍。整个调查里,这是对成本位置最清晰的陈述。

HippoRAG 2的索引有11,656个段落,建它花掉920万输入tokens和约100分钟。Memobase每次缓冲区刷新做三次模型调用。Elastic的逐轮整合大致让每轮模型调用翻倍。这些数字都没有包含提取时付给模型提供商的费用。

价格跳跃同样陡峭。Mem0托管版免费额度是每月5万条保存和1万次查找。Memori从免费直接跳到每年6万美元的Team档,是调查中最陡峭的跃升。

删除不掉的数据

隐私问题比表面看起来更深。删除ChatGPT聊天不会删除从中创建的记忆,Claude.ai同样如此。一项记忆安全调查发现,任何部署架构中都没有端到端的已验证遗忘实例。

调查列出了记忆存储需要的九项控制,包括写入门、来源、主体范围、回滚、删除语义。六种常见架构没有一种覆盖全部九项。持久化的中毒记忆比一次性注入伤害更大,因为它在每次后续会话中都会被重新注入。

产品的稳定性也是风险。Zep弃用了社区版,Letta移除了AgentFile导出格式。Cursor在2025年11月到2026年1月之间移除或隐藏了记忆功能。Mem0把OpenMemory文件夹从主分支移除,文档页面却还留着。Memobase的云主机已经无法访问。

一年之内,五个产品更改或放弃了集成表面。ChatGPT的记忆没有API,其他应用无法读取。

怎么选

选的时候有一条简化规则。agent跑在单一云平台上,就用平台记忆。Bedrock、Google Cloud、Azure上的记忆已预置。按现有发票计费,权限按平台身份体系界定,提取用平台自己的模型。

编码助手用内置记忆加规则文件。Claude Code的自动记忆保存四种笔记,索引启动加载200行。VS Code把记忆按用户、存储库和会话限定范围。Windsurf的规则上限为6000和12000字符。

构建在框架上的,用框架自带存储。LangGraph、LlamaIndex、Mastra、CrewAI和Google ADK都有。跨平台、需要时间图、或者记忆本身就是产品,才值得考虑外部服务。需要可删除记忆的,用支持即时遗忘和项目级删除的存储。

在GitHub自己的A/B测试里,Copilot的记忆把合并率从83%提到90%。每个事实都带代码引用,使用时重新检查来源——它是唯一这样做的产品。

每个记忆产品都在编辑提示,没有一个让模型真正学习。三种记忆形状覆盖整个市场,平台和助手的记忆免费。独立记忆供应商能否存活,取决于平台记忆是否足够好。

关键事实

阅读原文
📚 相关主题 AI Agent

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新