AI Pulse
🔥 热点深度解读

腾讯混元半年更三次,推770亿参数开源大模型

有人刚习惯用AI整理工作文档,处理简单代码需求,大模型行业的迭代速度已经快得超出想象。

8月28日,腾讯混元正式发布下一代旗舰大语言模型Hy4 preview,并且同步开放了模型全部权重。这个模型总参数达到770B(MoE混合专家架构,一种把大模型拆成多个小模块,只激活部分模块运行的技术),日常运行只激活49B参数,同时支持1M长度的上下文窗口,相当于可以一次性处理超过70万字的完整内容。

它从设计开始就面向实际工作场景,支持代码开发、长文档分析、科研辅助这类需求。有意思的是,这个模型还自己协助优化了自身的训练流程,包括底层运行的内核部分,在12项基准测试中都拿到了跨代的性能提升。按照官方说法,这次只提供模型升级,不会涨价,未来两周还可以在WorkBuddy_AI免费使用。

@Nas_tech_AI 认为:Tencent Hy的进化速度越来越疯狂,六个月就有三次重大发布,基本上每两个月就有一次大动作。」

@sophiaparkerr_ 认为:这样的迭代进度确实让人印象深刻,新的Hy4 preview已经在往实际生产力方向推进。」

对普通使用者来说,现在能用到的免费AI能力又上了一个台阶:能一次性读完一整本书、处理完整项目的全部代码,这类以前只有付费企业服务才能做到的事,现在普通用户也能免费试用。而对开发者来说,完全开放的权重意味着可以基于这个大模型,定制适配自己需求的AI工具,不需要再从零开始训练。

这次的迭代节奏,把大模型更新的周期从按季度算,拉到了按两个月算。下次打开AI工具处理工作,你用到的新能力,可能就是刚迭代出来不到一周的版本。

📎 参考来源

查看原始推文

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新