### [DeepSeek把“印钞机”核心开源了：DeepInfer日跑155万亿Token，第三方真能照着赚钱吗？](https://www.zuoshipin.com/article/56954) **Published:** 2026-10-21T14:58:09 **Author:** 天才交易员 **Excerpt:** DeepSeek开源DeepInfer与deepseek-recipe，公布单集群每天155万亿Token、每… **导读：**DeepSeek这次不只开放模型权重，而是把负责“如何让模型在大规模集群上更快、更便宜运行”的核心推理框架DeepInfer，以及负责API协议与Prompt编码的deepseek-recipe一起开源。官方披露，单一集群每天服务155万亿Token，按谷价计算每GPU小时收入38美元。数字足够吸睛，但更重要的问题是：第三方拿到代码后，究竟能复制多少？ **信息边界：**155万亿Token/天与38美元/GPU小时来自DeepSeek官方部署问答；“90%利润率”“1GW年收入1000亿至1490亿美元”“2027年10万亿美元ARR”等均为社区测算，强依赖硬件、利用率、定价、折旧、电力和需求假设，不是DeepSeek官方收益承诺。完整KV Cache与负载均衡也尚未全部开源。 ## 01 / DeepSeek这次开源的，不只是模型，而是模型背后的推理工程 模型决定能力上限，推理系统决定这种能力能不能以可承受成本服务大量用户。DeepSeek在技术说明中宣布开源内部推理框架DeepInfer，并同步发布生产级协议与分词组件deepseek-recipe。 [![DeepSeek发布开源推理框架的技术说明](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img01-img01.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img01-img01.webp) DeepSeek发布开源推理框架的技术说明 DeepSeek还承诺，未来新模型的推理代码和后续性能优化会持续进入DeepInfer。这意味着社区获得的不只是一次性代码快照，而可能是一条与后续模型共同演进的推理路线。 ## 02 / “印钞机”这个比喻从哪来：每天155万亿Token 官方问答披露，DeepSeek当前单一集群每天服务**155万亿Token**，按照谷价计算，整体收入约为**每GPU小时38美元**。原文把这套系统称为“印钞机”，强调的是推理效率直接决定API业务毛利与价格空间。 [![DeepSeek披露的线上Prefill、Decode与KV Cache运行指标](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img02-img02.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img02-img02.webp) DeepSeek披露的线上Prefill、Decode与KV Cache运行指标 但38美元是收入，不是净利润。GPU采购或租赁、网络、存储、电力、机房、运维、冗余、研发和闲置容量都会影响真实利润。任何第三方都不能简单把“GPU数量 × 38美元 × 24小时”当成可实现收益。 ## 03 / DeepInfer到底开了什么？ DeepInfer当前支持DeepSeek V4.1 Flash，公开能力包括高性能内核、Attention数据并行、上下文并行、MoE专家并行与负载均衡、DSpark投机解码、SWA Bounded Replay、异步调度、批次不变推理、确定性采样和结构化输出。 [![DeepInfer在DeepSeek官方GitHub组织中的开源仓库](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img03-img03.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img03-img03.webp) DeepInfer在DeepSeek官方GitHub组织中的开源仓库 官方列出的硬件是NVIDIA SM100 GPU与华为昇腾950 NPU。NVIDIA路径需要Linux、GCC 13、Python 3.12和CUDA 13；昇腾路径需要CANN 9.2。这不是一套面向普通显卡“点击即用”的桌面工具，而是生产级基础设施工程。 [![DeepSeek团队成员介绍DeepInfer与deepseek-recipe开源目标](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img04-img04.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img04-img04.webp) DeepSeek团队成员介绍DeepInfer与deepseek-recipe开源目标 ## 04 / 最大的误解：核心引擎开源，不等于整套云服务完整复制 DeepInfer仓库明确说明，当前开源版主要提供离线推理与规模化服务所需的核心能力。要组成完整在线服务，仍需补齐： - 外部KV Cache系统。 - Vision Encoder、Prefill与Decode的服务解耦。 - Prefill、Decode与专家副本的负载均衡。 - API网关、认证、限流、队列、监控、灰度和故障恢复。 - 模型分发、编译缓存、集群资源调度与成本计量。 [![DeepSeek V4.1 Flash线上推理系统的视觉编码、Prefill、Decode与KV Cache架构](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img09-img09.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img09-img09.webp) DeepSeek V4.1 Flash线上推理系统的视觉编码、Prefill、Decode与KV Cache架构 官方也直言，内部KV Cache管理和负载均衡与现有基础设施紧密耦合，因此代码尚未完整开源。换句话说，DeepSeek公开了最关键的一批引擎与方法，但第三方仍需要相当强的Infra能力才能复刻线上表现。 ## 05 / vLLM为什么专门回应？DeepInfer站在成熟开源生态上继续优化 DeepInfer仓库说明，它最初主要基于vLLM构建，同时参考了SGLang与TensorRT-LLM。vLLM社区公开感谢DeepSeek以Apache 2.0许可回馈这些生产优化，并表示会继续从DeepInfer的思路中吸收改进。 [![vLLM社区对DeepInfer基于vLLM构建并采用Apache 2.0许可的回应](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img07-img07.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img07-img07.webp) vLLM社区对DeepInfer基于vLLM构建并采用Apache 2.0许可的回应 这正是开源基础设施的复利：DeepSeek从既有项目中获得起点，再把针对V4.1 Flash的大规模实践回流，其他框架与服务商又可以继续验证、移植和改进。 ## 06 / Prefill与Decode为什么要拆开？ **Prefill**负责读取输入上下文并建立KV Cache，计算密集、批处理收益明显；**Decode**逐Token生成输出，更看重内存带宽、并发与用户感知速度。两者硬件需求不同，拆开部署可以分别扩容和优化。 官方架构还把Vision Encoder独立出来，并为视觉编码、Prefill、Decode和专家并行分别设置负载均衡器。这样可以按请求结构与流量变化动态分配资源。 [![DeepInfer非缓存输入吞吐与Prefill单步延迟关系](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img10-img10.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img10-img10.webp) DeepInfer非缓存输入吞吐与Prefill单步延迟关系 Prefill曲线显示，批次Token增大时非缓存输入吞吐快速提高，达到一定规模后趋于平缓，而单步延迟继续上升。工程目标不是无限加大批次，而是在吞吐、首Token延迟和服务等级之间寻找平衡。 [![DeepInfer输出吞吐与单用户生成速度之间的权衡](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img11-img11.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img11-img11.webp) DeepInfer输出吞吐与单用户生成速度之间的权衡 Decode同样存在取舍：并发越高，总输出吞吐越大，但每位用户获得的生成速度会下降。推理服务商真正售卖的不是峰值跑分，而是在目标延迟下可持续交付的吞吐。 ## 07 / KV Cache保存72小时，为什么Agent时代特别值钱？ 长对话和Agent任务会反复携带大量相同前缀。如果每次都重新Prefill，成本会随着上下文增长不断累积。DeepSeek披露，其3FS分布式存储集群规模达到100 PiB，Agent流量KV Cache可保留72小时以上，Chatbot流量可保留7天。 系统通过RDMA与GPU Direct Storage获得聚合读取带宽，并尝试把缓存换入显存与模型前向计算重叠。对持续运行的Agent而言，缓存命中不只是加速技巧，而是决定长任务经济性的基础设施。 SWA Bounded Replay进一步针对滑动窗口注意力：与其把寿命很短的全部SWA缓存写入存储，不如只保留必要信息并重算末尾有限Token。官方仓库当前默认保留后缀需要覆盖SWA窗口和最大回溯长度。 ## 08 / deepseek-recipe：不起眼，却决定第三方API能不能“像官方一样” deepseek-recipe不是推理引擎，而是模型前后的协议与编码层。它把Anthropic Messages、OpenAI Chat Completions与Responses API转换为统一Conversation，再生成DeepSeek V4/V4.1需要的Prompt或Token；模型输出则被解析成正文、推理内容、工具调用和流式事件。 实现采用Rust，并提供Python绑定。分段并行编码既减少长文本分词延迟，也避免Special Token注入绕过模板边界。 **不要误会：**deepseek-recipe不提供模型推理、HTTP传输、认证、限流或服务端工具执行。它解决的是“请求怎样被正确编码、输出怎样按协议还原”，而不是完整API平台。 ## 09 / 社区为何兴奋：开源模型终于连“怎么跑”也开始公开 过去很多开源模型只提供权重。企业拿到模型后，仍要自己解决调度、缓存、并行、结构化输出和协议兼容，部署成本可能远高于预期。DeepInfer与deepseek-recipe把一部分生产经验变成可阅读、可运行、可修改的代码。 [![社区将DeepInfer视为DeepSeek开放生产技术栈的重要一步](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img05-img05.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img05-img05.webp) 社区将DeepInfer视为DeepSeek开放生产技术栈的重要一步 [![社区关于第三方推理服务利润率的测算，属于观点而非官方承诺](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img06-img06.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img06-img06.webp) 社区关于第三方推理服务利润率的测算，属于观点而非官方承诺 社区有人据此推算第三方服务商可能获得90%以上利润率。这个数字不能直接采用：它没有统一计入硬件折旧、网络、存储、能源、运维、闲置容量、价格竞争和需求波动。更稳妥的结论是，开源优化会**扩大高效服务的可能性**，但不会自动生成利润。 [![DeepSeek研究人员围绕开源与闭源路线发表的个人观点](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img08-img08.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img08-img08.webp) DeepSeek研究人员围绕开源与闭源路线发表的个人观点 ## 10 / 安装教程：先跑通离线推理，再谈生产集群 1. **确认硬件：**当前官方支持NVIDIA SM100或华为昇腾950，不要默认消费级GPU可直接运行。 2. **准备环境：**Linux、GCC 13以上、Python 3.12；按平台安装CUDA 13或CANN 9.2。 3. **克隆仓库：**从DeepSeek官方GitHub获取DeepInfer，并完整初始化依赖。 4. **选择加速器：**设置`DEEPINFER_ACCELERATOR=nvidia`或`ascend`。 5. **编译：**执行`./build.sh`，先解决内核、驱动和编译器兼容问题。 6. **离线验证：**运行`python examples/offline_inference.py`，确认模型加载、采样和结构化输出。 7. **复现实验：**使用仓库提供的benchmark与eval脚本，在自己的硬件上测Prefill、Decode、延迟和显存。 8. **生产化设计：**再评估KV Cache、服务解耦、负载均衡、网关、监控、限流、冗余与数据安全。 ## 11 / 那些夸张财务推演，应该怎么看？ [![社区用改编品牌图表达对DeepSeek开放路线的支持](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img12-img12.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img12-img12.webp) 社区用改编品牌图表达对DeepSeek开放路线的支持 [![原文用于讽刺开源与闭源竞争的网络图片](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img13-img13.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img13-img13.webp) 原文用于讽刺开源与闭源竞争的网络图片 原文借助网络图片和尖锐措辞，把DeepSeek的开放路线与闭源商业模式对立起来。这种表达有传播力，但技术开源与商业闭源不是简单的道德二选一：训练成本、服务责任、安全边界、许可证和生态策略都会影响公司选择。 [![原文引用的Anthropic收入与算力支出图，相关数字未获本文独立核验](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img14-img14.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img14-img14.webp) 原文引用的Anthropic收入与算力支出图，相关数字未获本文独立核验 原文还引用了未独立核验的Anthropic财务图与社区长篇测算。本文保留图片作为原始讨论背景，但不把其中数字作为已确认事实。 [![社区对DeepInfer算力收入与全球推理需求的长篇估算，非官方预测](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img15-img15-scaled.webp)](https://admin.zuoshipin.com/wp-content/uploads/2026/10/deepinfer-open-source-img15-img15-scaled.webp) 社区对DeepInfer算力收入与全球推理需求的长篇估算，非官方预测 “1GW算力一年产生1000亿至1490亿美元收入”以及“全球25GW推理需要2.5万亿美元Token消费”等推演，建立在持续满载、固定价格、相同硬件效率和足够需求等强假设上。它们更适合用来讨论供需上限，不适合当作收入预测。 ## 12 / 做视频网分析：真正被开源的，是推理服务的学习曲线 DeepInfer最有价值的地方，不是让所有人复制DeepSeek的利润，而是降低理解生产推理系统的门槛。开发者可以直接看到并行、调度、投机解码、缓存回放和结构化输出如何组合，而不必只读论文或猜测线上实现。 它也把一个现实讲得很清楚：AI竞争正在从“谁有更大模型”转向“谁能用更少算力、更低延迟和更稳定协议把模型交付出去”。未来模型能力差距缩小时，Infra效率会直接决定API价格与可用场景。 **一句话判断：**DeepSeek确实开放了高价值的生产推理核心，但“下载代码就能复制155万亿Token/天”并不现实。真正的机会属于能把开源引擎、缓存、网络、调度和业务需求重新组合起来的团队。 ## 相关站内内容 - **DeepInfer导航：**[https://www.zuoshipin.com/link/56952.html](https://www.zuoshipin.com/link/56952.html) - **deepseek-recipe导航：**[https://www.zuoshipin.com/link/56953.html](https://www.zuoshipin.com/link/56953.html) - **DeepSeek V4.1 Flash 1017解析：**[https://www.zuoshipin.com/article/55247](https://www.zuoshipin.com/article/55247) - **DeepSeek官方导航：**[https://www.zuoshipin.com/link/873.html](https://www.zuoshipin.com/link/873.html) - **本地MoE推理工具FreeToken：**[https://www.zuoshipin.com/link/23626.html](https://www.zuoshipin.com/link/23626.html) - **更多AI资讯：**[https://www.zuoshipin.com/archive/75](https://www.zuoshipin.com/archive/75) ## 官方资料与下载 - [DeepInfer官方GitHub仓库](https://github.com/deepseek-ai/DeepInfer) - [deepseek-recipe官方GitHub仓库](https://github.com/deepseek-ai/deepseek-recipe) - [DeepSeek V4.1 Flash推理部署官方问答](https://github.com/deepseek-ai/DeepInfer/blob/main/doc/inference_deployment_qa.md) **Tags:** DeepInfer, DeepSeek, deepseek-recipe, KV Cache, vLLM, 大模型推理 **Categories:** AI资讯 ---