AI Pulse
📡 X 信号

腾讯发布本地 AI 模型,专门决定智能体该记住什么

腾讯发布本地 AI 模型,专门决定智能体该记住什么

我的天。腾讯发布了一个本地 AI 模型,专门用来决定你的 AI 智能体该记住什么。这可能会成为我最喜欢的本地 AI 记忆搭档,用来搭配 Qwen3.8-27B,而且社区 Q4 量化版已经在 17GB 左右了。

Hy-Memory-30B-A3B 不是聊天机器人,而是专门的长期记忆写入器。它:
🧠 读取新对话 / 智能体活动
🎯 判断哪些内容真正值得记住
📝 将证据转化为精确的持久记忆
🔄 在事实发生变化时更新记忆
🗑️ 避免存储无关信息
💾 维护持久记忆库

为什么需要这个?没有持久记忆,你的智能体要么:
🧠 在会话/上下文结束时忘记有用信息
📚 不断把旧对话塞回上下文

记忆系统为你的智能体提供了一个跨会话持久存在的紧凑长期存储。Hy-Memory 就是那个决定哪些内容值得存入该存储的模型。

如今的记忆系统通常用通用 LLM 来做这件事。而腾讯专门为此训练了一个稀疏专家模型。腾讯报告称,在这项特定任务上,它击败了更大的前沿模型:

🏆 Hy-Memory-30B-A3B → 55.49
Claude Opus 5 → 54.62
DeepSeek V4.1 Flash → 53.64
Qwen3.6-35B-A3B → 50.37

EverMemOS 以 56.89 分排名第一。

规格:
🧠 总参数量 30B
⚡ 每 token 激活约 3B
🔓 Apache 2.0
🏠 开放权重
⚙️ vLLM + SGLang
🔌 兼容 OpenAI 的 API

社区量化版也已经出来了:
Q4_K_M → 约 17GB
Q5_K_M → 约 20GB
Q6_K → 约 23GB
EXL3 4.08bpw → 约 15GB

这大致和 Qwen3.8-27B Q4 处于同一显存级别。只不过 Qwen3.8-27B 是稠密通用模型。Hy-Memory 每 token 只激活约 3B 参数,且是专门为记忆任务训练的。

🔗 链接在 ALT 中

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新