AI Pulse
🔥 热点深度解读

40B参数AI模型4个月造完,还能在笔记本上跑

一个正在发生的变化

Recursive公司发布了首款模型Flint,这是一个约40B参数的MoE(混合专家,即模型内部有多个子网络按需激活)开源模型,专为本地编码场景设计。根据官方数据,它在M4 Pro MacBook Pro上能跑出超过125 tokens/秒的生成速度,在RTX Spark上超过150 tokens/秒。

作为参照,2026年消费级硬件上的本地编码基准测试显示,Qwen2.5-Coder 32B(Q5_K_M)的平均推理速度为36.8 tokens/秒。Flint的速度是这一基准的3倍以上。

更值得注意的是开发周期:这个模型从从零开始到发布,只用了不到4个月。背后的原因是Recursive使用了名为Eureka Machine的自动化AI研究系统,该系统可自动化研究循环中的每个步骤,让仅有少量研究人员的公司能在数月内打造出世界级模型。

多方声音

@RichardSocher 认为:Flint是“best-in-class fast local coding”,强调其“Private, unmetered intelligence on your own machine”——在自己的机器上运行,无需联网,也没有使用次数限制。

@ollama 指出:Flint是“~40B parameter MoE open model for fast, accurate agentic coding use case made to run on-device”,定位明确为设备端运行的智能体编码模型。

@cong_ml 则将其描述为“blazing-fast 40B model on the local coding Pareto frontier, shaped by autoresearch”——由自动化研究塑造的本地编码帕累托前沿模型。

这条发布推文获得了5520个点赞、5247次收藏,浏览量超过212万,总互动量达12862。

这个变化悄悄连上了你的生活

过去,本地跑大模型的门槛很高:8GB内存只能跑Qwen3 8B这样的小模型,HumanEval得分72%,能力有限。而Flint以40B参数的体量,在消费级笔记本上跑出了远超同类的速度。

这意味着,写代码这件事,正在从“必须联网调用云端API”变成“在自己电脑上就能完成”。对于不想把代码上传到第三方服务器的人来说,这是一个实质性的变化。

但需要注意的是,2026年的开源权重模型大多仅开放模型权重和推理代码,不一定开放完整训练数据、训练代码或数据流水线。Flint虽然在Hugging Face上开放了权重,但“开源”的边界在哪里,仍需使用者自行判断。

一个开放的问题

当AI可以在4个月内自动造出一个世界级编码模型,人类研究员在这个循环里还剩下多少不可替代的工作?

📎 参考来源

查看原始推文

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新