腾讯开源 Hy-Memory-30B-A3B,专治 AI 记不住事
用 Claude Code、Codex 这类 AI 的人,真的该了解一下这个。它能让你现在用的 AI Agent 变得更聪明。
腾讯发布了专门针对 AI Agent 长期记忆管理的本地模型「Hy-Memory-30B-A3B」。它会从对话和工作记录中挑选「值得记住的信息」,整理进长期记忆。事实有变化就更新,不需要的信息就不存。这是个非常有意思的 AI 模型,能跨会话保持记忆,减少每次都把历史记录塞进上下文的负担。
🧠 总参数 30B/每个 token 约 3B 激活的 MoE
🔓 Apache 2.0・开放权重
⚙️ vLLM/SGLang・OpenAI 兼容 API
社区量化版:Q4 约 17GB/Q5 约 20GB/Q6 约 23GB/EXL3 约 15GB
既可以通过 API 使用,也可以把权重下载到自己的环境里免费跑。
用 AI 的时候,经常会遇到它记住了不该记的,却没记住该记的,对吧?为了跨会话记忆,我想也有人会给每个项目建专门的数据库来用。
实际上,「该记什么、不该记什么」这件事,不同 AI 模型的判断是有差异的,所以它有时候会随便记住一些没用的东西。
我想大家也都有过被过时的 Spec.md 或 Agent.md 折磨的经历吧。这个模型就是能自动把这类本该挥发掉的信息给分拣出来。
所以,它是一个能帮你把规范里真正核心的部分、记忆部分、以及动态变化的规范部分,都恰到好处地记录下来的模型 + SDK。
我也觉得这个必须得装,就马上装来试了一下。我的用法是这样的:
1. Codex※ 回复结束时,通过 Stop hook 把这次新增的工作日志放入待处理队列。
2. 如果一段时间没有操作,就自动启动 Hy-Memory。提取决策事项、偏好、已解决的问题、可复用的步骤,并与已有记忆进行比对。
3. 保存到项目专属的数据库后关闭模型。整理完成后释放显存。
4. 下次对话时自动传入所需记忆。会话开始后,通过 UserPromptSubmit 检索与问题相关的记忆,添加到 Codex 的上下文中。
※ Claude Code、DSH 等也同理。
我觉得这个项目得用一段时间、看看实际效果再评价才靠谱,所以可能要过一阵子才能谈感想。
如果看了概要觉得「不错啊」的人,我会把相关链接放在回复里,欢迎大家去试试。