AI Pulse
🔥 热点深度解读

DeepSeek把自家跑大模型的发动机源码,全开源了

一个正在发生的变化

2026年9月10日,DeepSeek发布了5520亿参数的混合专家模型DeepSeek-V4.1-Flash,采用MIT许可证开放权重,定价为每百万输入token 0.3美元、每百万输出token 1.2美元。这款模型仅激活80亿参数读取输入、160亿参数生成输出,支持原生图像理解,具备100万token上下文长度。

发布后,全网都在猜测它如何把每百万输入压到0.15美元、输出压到0.6美元。9月17日,谜底揭晓:DeepSeek以Apache 2.0协议开源了支撑自家线上服务的推理框架DeepInfer,以及API同款编解码组件。这不是实验室原型,而是他们自己线上跑大模型用的核心底座,里面包含高性能算子、分布式推理、投机解码、SWA Bounded Attention等组件。

DeepInfer最初主要基于vLLM构建。@mgoin_ 转发表示,感谢DeepSeek以Apache 2.0协议发布DeepInfer并标注来源。

多方声音

@dejavucoder 认为:这就像给推理工程师的Claude agents提供shadcn/ui组件。

@qinbafrank 感叹:梁文锋格局怎么这么大?不仅模型开源了,现在又把推理框架也开源了,而且就是DeepSeek V4.1-Flash现在正在用的核心推理框架。

@Thom_Wolf 梳理了DeepSeek的开源脉络:FlashMLA在H800上实现580 TFLOPS注意力计算,DeepEP用于MoE通信,DeepGEMM实现1350+ FP8 TFLOPS矩阵乘法,3FS是他们自建的文件系统,今天又加上了DeepInfer。

@ErickSky 指出:开放模型权重很好,但如果只有资金雄厚的玩家才能高效运行它,实际影响有限。DeepInfer正是那个让高效运行变得可及的东西。

这个变化悄悄连上了你的生活

DeepSeek的相关举措已经改变了AI推理定价市场。Hugging Face论坛的数据显示,不同服务商提供的同款模型价格最高相差4.66倍。

在相同硬件条件下,TensorRT-LLM吞吐量为2100 tok/s,每百万输出token成本0.66美元;vLLM吞吐量为1850 tok/s,每百万输出token成本0.75美元,两者GPU成本均为每小时5.01美元。DeepInfer的开源,意味着更多服务商可以直接复用经过生产验证的优化方案,进一步压低推理成本。

对普通用户来说,这意味着调用AI服务的价格可能继续下降。当更多玩家能以更低成本运行同款模型,市场竞争会把价格压向边际成本。

一个开放的问题

当模型权重和推理框架都免费开放,AI服务商之间还能靠什么竞争?

📎 参考来源

查看原始推文

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新