Meta重启开源AI,把300亿大模型塞进了你的电脑
平时想找个好用的本地AI工具,不是体积太大带不动,就是收费卡脖子。
这次Meta直接开放了Muse Glimmer的全部模型权重,这是一个拥有300亿参数的密集大模型,支持在本地个人设备运行。
经过4bit量化(一种压缩模型体积同时保留性能的技术)后,它只需要不到20GB空间,就能在拥有24GB显存的普通消费级显卡,或是苹果Silicon芯片的Mac上运行,甚至已经可以直接通过LM Studio和Ollama这两个常用本地AI工具下载使用。
这款模型支持视觉识别、代码编写、调用本地工具,还能完成多步骤的智能体任务,出现错误还能自动恢复,在同尺寸开源模型中性能表现已经属于第一梯队,微调时的显存占用和速度也比同类模型更有优势。Meta同时宣布,很快还会发布最新基础模型Muse Spark 1.2的权重。
@minchoi 认为:美国开源AI又回来了。
@omarsar0 认为:Meta已经为开源AI做了太多贡献,这次发布对整个AI生态来说都是一件大事。
@emollick 认为:Muse Spark是这次真正的重点,虽然它还比不上中国开源模型的前沿水平,也落后于闭源的顶级模型,但已经是一年来非中国开源模型里最好的一个。
@realmadhuguru 认为:如果真的热爱智能,就该给它自由。
之前有媒体认为Meta已经彻底转向闭源AI路线,会因此改变整个AI行业的格局。这次的发布直接打破了这个判断——普通人不用支付云端服务费,不用把数据传给第三方公司,就能在自己的电脑上运行一个性能不错的300亿参数大模型,甚至还能自由微调修改它来适配自己的需求。
开放的替代路径已经摆在这里,下一步,会不会有更多普通用户把日常AI工作流搬回自己的设备?