DeepSeek把自家AI服务的核心引擎，直接开源了

很多人每天打开对话框用AI写方案、查资料，背后其实都有一套看不见的“引擎”在支撑——它负责把模型的回答快速、稳定地送到你眼前。这套引擎的搭建和优化，一直是普通团队很难跨过的门槛。

现在，DeepSeek把这套正在支撑自家生产服务的核心推理框架DeepInfer，完全开源了。这套框架正在为DeepSeek-V4.1-Flash提供大规模推理服务，实现高吞吐量、低延迟的运行效果。

@MaxForAI 认为：这已经不是DeepSeek第一次把压箱底的东西放到GitHub上了。从模型权重，到FlashMLA、DeepGEMM、DeepEP，再到TileLang，现在连自己的推理框架都拿出来了。

@LingoAI_io 梳理了这套框架的核心亮点：单集群日处理万亿级token，通过DSpark置信度调度推测解码，验证量减少约30%，同时支持SWA有界回放与结构化输出。

DeepInfer最初主要基于vLLM构建，同时参考借鉴了SGLang和TensorRT-LLM的设计。DeepSeek在官方说明里提到，未来新模型的推理代码以及持续优化内容，都会在这个仓库里发布。

对于普通使用者来说，最直接的影响是：开源这套生产级推理栈，目标是帮助社区降低算力成本、减少能源消耗，最终让AI的使用成本更低。

当一家公司把自己每天用来赚钱的核心技术栈全部公开，接下来会有多少团队能基于这套东西，做出更便宜、更贴近日常需求的AI服务？