专为Mac设计的开放模型,至少1TB内存才能跑
Meta发布了Muse Spark Open,并称它是美国最强大的开放权重模型。这个模型有一个特殊之处:专为Mac设计。
它的体量不小。8160亿参数,100万token上下文窗口。参数规模决定模型吃进多少知识,上下文窗口决定它一次能读多长内容。100万token能装下很长的文档,也能装下一个不小的代码库。
Muse Spark Open原生支持多模态,专为复杂编码任务和智能体工作设计。Meta拿它和自家的AI编码终端Muse Code配对。实际干过活:为Mastodon客户端修bug、加新功能、跑完整构建。还让它操作DaVinci Resolve,审查和裁剪素材。
但要跑这个模型,前提很苛刻。本地运行至少需要1TB内存。效果最好的机型是搭载M5 Ultra芯片的Mac Studio。这套配置远超普通消费级Mac。本地运行的好处是数据留在自己手里、不依赖云端。但光是内存这一关,就把多数人挡在门外。
Meta也给了另一条路:通过多个API平台提供这个模型。没买顶配Mac的人,可以直接调用API,不用自己部署。
开放权重不等于开源。相比封闭的专有模型,这类模型在成本效率、透明度和灵活性上有优势。开发者不必被单一公司的API定价绑住,也可以按需改动模型。
Meta发布评估:Muse Spark Open性能优于其他流行的开放权重模型。这套评估是Meta自己做的,参考时得留个心眼。
如果这套评估靠谱,它就是Mac上能跑的最强开放模型。不过这个“最”字,得等第三方跑分出来才能坐实。
关键事实
- Muse Spark Open是专为Mac设计的。
- Meta发布的评估结果显示,该模型性能优于其他流行的开放权重模型。
- Muse Spark Open原生支持多模态,专为复杂编码任务和智能体工作设计。
- 该模型设计为可在Apple电脑上本地运行,但至少需要1TB内存。
- 该模型在配备M5 Ultra芯片的Mac Studio上运行效果最佳。
- Meta将Muse Spark Open与其AI编码终端Muse Code配对,并部署到多种智能体工作流中,包括为Mastodon客户端进行编码修复,涵盖bug修复、新功能和完整构建。
- Meta还将其部署用于运行高端视频编辑软件DaVinci Resolve,展示了模型审查和裁剪素材的能力。
- 开放权重模型相比封闭专有模型具有成本效益、透明度和灵活性等优势。