AI自己造了个AI,4个月就跑上了笔记本
深夜赶项目的程序员,最头疼两件事:API账单蹭蹭涨,代码还要上传到云端。现在有个新选项,直接在自己笔记本上跑编码模型。
Recursive_SI发布了首个模型Flint,一款快速本地编码模型。它的特别之处在于:整个模型由公司的自动化研究系统Eureka Machine从零构建,耗时不到4个月。
@omarsar0 认为:这是自动化AI研究的早期信号,Eureka Machine参与了从数据到模型的几乎每一个环节。
速度方面,Flint在MacBook Pro上能跑到125+ tokens/sec,在RTX Spark上达到150+ tokens/sec,比同类模型快约2倍。模型采用40B参数的MoE架构,激活参数仅2.5B,上下文窗口262K token,采用Apache 2.0协议开源。
@Mortezabihzadeh 算了笔账:vibe code时总惦记两件事——API账单和代码去向。跑在自己笔记本上的模型,两个问题一起解决。
开放权重已在Hugging Face上线,LM Studio、Ollama等工具首日即支持本地运行。@MLStreetTalk 评价:MacBook Pro上跑出近130 tokens/sec,这个开源编码模型的速度,相当炸裂。
对普通用户来说,这意味着编码助手不再必须联网。代码留在本地,不按token计费,模型还能离线用。
当AI开始参与研发下一代AI,4个月从零到可用的速度,会把整个行业的节奏带向哪里?