DeepSeek 把上下文窗口当缓存，解决智能体记忆难题

DeepSeek 几乎是在公开撰写一本 AI 系统工程教科书。FlashMLA、DeepGEMM、DeepEP、DeepInfer。现在，其最新研究又攻克了长期运行 AI 智能体领域最棘手的难题之一。

这背后的工程设计尤其引人入胜。DeepSeek 提出，应将 LLM 上下文窗口视为缓存，而非存储智能体所遇一切的数据库。试想一个连续运行数周的智能体。它处理 GitHub issue、代码评审、CI 日志、工具输出，以及来自多人的消息。即便百万 token 的上下文窗口最终也会被填满。而激进地摘要所有内容，又可能丢失理解早期决策所需的细节。

DeepSeek 提出的架构引入了两种机制。Inline & Spill 将近期可能用到的信息直接保留在活动上下文中，同时将相关性较低的内容存储在外部，并附带引用以便日后检索。Chain of Recall 通过标识符将事件、讨论线程和工作会话连接起来。当历史信息变得相关时，智能体可以顺着这些连接恢复上下文，而无需在每次提示中携带全部历史。

更宏观的超级智能体设计将负责协调与连续性的长期运行 Router，与在隔离上下文中执行任务的独立 Worker 分离开来。这是缓存、局部性和分布式系统原则在智能体工程中的一次精彩应用。

DeepSeek 已发布架构研究，并附带开源原型。完整的内存系统尚未在公开版本中实现。对于从事智能体内存、上下文工程或自主系统的人来说，这值得深入研究。

GitHub：