AI Pulse
🔥 热点深度解读

AI自己造了个AI,4个月就跑上了笔记本

深夜赶项目的程序员,最头疼两件事:API账单蹭蹭涨,代码还要上传到云端。现在有个新选项,直接在自己笔记本上跑编码模型。

Recursive_SI发布了首个模型Flint,一款快速本地编码模型。它的特别之处在于:整个模型由公司的自动化研究系统Eureka Machine从零构建,耗时不到4个月。

@omarsar0 认为:这是自动化AI研究的早期信号,Eureka Machine参与了从数据到模型的几乎每一个环节。

速度方面,Flint在MacBook Pro上能跑到125+ tokens/sec,在RTX Spark上达到150+ tokens/sec,比同类模型快约2倍。模型采用40B参数的MoE架构,激活参数仅2.5B,上下文窗口262K token,采用Apache 2.0协议开源。

@Mortezabihzadeh 算了笔账:vibe code时总惦记两件事——API账单和代码去向。跑在自己笔记本上的模型,两个问题一起解决。

开放权重已在Hugging Face上线,LM Studio、Ollama等工具首日即支持本地运行。@MLStreetTalk 评价:MacBook Pro上跑出近130 tokens/sec,这个开源编码模型的速度,相当炸裂。

对普通用户来说,这意味着编码助手不再必须联网。代码留在本地,不按token计费,模型还能离线用。

当AI开始参与研发下一代AI,4个月从零到可用的速度,会把整个行业的节奏带向哪里?

📎 参考来源

查看原始推文

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新