导读:DeepSeek这次不只开放模型权重,而是把负责“如何让模型在大规模集群上更快、更便宜运行”的核心推理框架DeepInfer,以及负责API协议与Prompt编码的deepseek-recipe一起开源。官方披露,单一集群每天服务155万亿Token,按谷价计算每GPU小时收入38美元。数字足够吸睛,但更重要的问题是:第三方拿到代码后,究竟能复制多少?
信息边界:155万亿Token/天与38美元/GPU小时来自DeepSeek官方部署问答;“90%利润率”“1GW年收入1000亿至1490亿美元”“2027年10万亿美元ARR”等均为社区测算,强依赖硬件、利用率、定价、折旧、电力和需求假设,不是DeepSeek官方收益承诺。完整KV Cache与负载均衡也尚未全部开源。
01 / DeepSeek这次开源的,不只是模型,而是模型背后的推理工程
模型决定能力上限,推理系统决定这种能力能不能以可承受成本服务大量用户。DeepSeek在技术说明中宣布开源内部推理框架DeepInfer,并同步发布生产级协议与分词组件deepseek-recipe。

DeepSeek还承诺,未来新模型的推理代码和后续性能优化会持续进入DeepInfer。这意味着社区获得的不只是一次性代码快照,而可能是一条与后续模型共同演进的推理路线。
02 / “印钞机”这个比喻从哪来:每天155万亿Token
官方问答披露,DeepSeek当前单一集群每天服务155万亿Token,按照谷价计算,整体收入约为每GPU小时38美元。原文把这套系统称为“印钞机”,强调的是推理效率直接决定API业务毛利与价格空间。

但38美元是收入,不是净利润。GPU采购或租赁、网络、存储、电力、机房、运维、冗余、研发和闲置容量都会影响真实利润。任何第三方都不能简单把“GPU数量 × 38美元 × 24小时”当成可实现收益。
03 / DeepInfer到底开了什么?
DeepInfer当前支持DeepSeek V4.1 Flash,公开能力包括高性能内核、Attention数据并行、上下文并行、MoE专家并行与负载均衡、DSpark投机解码、SWA Bounded Replay、异步调度、批次不变推理、确定性采样和结构化输出。

官方列出的硬件是NVIDIA SM100 GPU与华为昇腾950 NPU。NVIDIA路径需要Linux、GCC 13、Python 3.12和CUDA 13;昇腾路径需要CANN 9.2。这不是一套面向普通显卡“点击即用”的桌面工具,而是生产级基础设施工程。

04 / 最大的误解:核心引擎开源,不等于整套云服务完整复制
DeepInfer仓库明确说明,当前开源版主要提供离线推理与规模化服务所需的核心能力。要组成完整在线服务,仍需补齐:
- 外部KV Cache系统。
- Vision Encoder、Prefill与Decode的服务解耦。
- Prefill、Decode与专家副本的负载均衡。
- API网关、认证、限流、队列、监控、灰度和故障恢复。
- 模型分发、编译缓存、集群资源调度与成本计量。

官方也直言,内部KV Cache管理和负载均衡与现有基础设施紧密耦合,因此代码尚未完整开源。换句话说,DeepSeek公开了最关键的一批引擎与方法,但第三方仍需要相当强的Infra能力才能复刻线上表现。
05 / vLLM为什么专门回应?DeepInfer站在成熟开源生态上继续优化
DeepInfer仓库说明,它最初主要基于vLLM构建,同时参考了SGLang与TensorRT-LLM。vLLM社区公开感谢DeepSeek以Apache 2.0许可回馈这些生产优化,并表示会继续从DeepInfer的思路中吸收改进。

这正是开源基础设施的复利:DeepSeek从既有项目中获得起点,再把针对V4.1 Flash的大规模实践回流,其他框架与服务商又可以继续验证、移植和改进。
06 / Prefill与Decode为什么要拆开?
Prefill负责读取输入上下文并建立KV Cache,计算密集、批处理收益明显;Decode逐Token生成输出,更看重内存带宽、并发与用户感知速度。两者硬件需求不同,拆开部署可以分别扩容和优化。
官方架构还把Vision Encoder独立出来,并为视觉编码、Prefill、Decode和专家并行分别设置负载均衡器。这样可以按请求结构与流量变化动态分配资源。

Prefill曲线显示,批次Token增大时非缓存输入吞吐快速提高,达到一定规模后趋于平缓,而单步延迟继续上升。工程目标不是无限加大批次,而是在吞吐、首Token延迟和服务等级之间寻找平衡。

Decode同样存在取舍:并发越高,总输出吞吐越大,但每位用户获得的生成速度会下降。推理服务商真正售卖的不是峰值跑分,而是在目标延迟下可持续交付的吞吐。
07 / KV Cache保存72小时,为什么Agent时代特别值钱?
长对话和Agent任务会反复携带大量相同前缀。如果每次都重新Prefill,成本会随着上下文增长不断累积。DeepSeek披露,其3FS分布式存储集群规模达到100 PiB,Agent流量KV Cache可保留72小时以上,Chatbot流量可保留7天。
系统通过RDMA与GPU Direct Storage获得聚合读取带宽,并尝试把缓存换入显存与模型前向计算重叠。对持续运行的Agent而言,缓存命中不只是加速技巧,而是决定长任务经济性的基础设施。
SWA Bounded Replay进一步针对滑动窗口注意力:与其把寿命很短的全部SWA缓存写入存储,不如只保留必要信息并重算末尾有限Token。官方仓库当前默认保留后缀需要覆盖SWA窗口和最大回溯长度。
08 / deepseek-recipe:不起眼,却决定第三方API能不能“像官方一样”
deepseek-recipe不是推理引擎,而是模型前后的协议与编码层。它把Anthropic Messages、OpenAI Chat Completions与Responses API转换为统一Conversation,再生成DeepSeek V4/V4.1需要的Prompt或Token;模型输出则被解析成正文、推理内容、工具调用和流式事件。
实现采用Rust,并提供Python绑定。分段并行编码既减少长文本分词延迟,也避免Special Token注入绕过模板边界。
不要误会:deepseek-recipe不提供模型推理、HTTP传输、认证、限流或服务端工具执行。它解决的是“请求怎样被正确编码、输出怎样按协议还原”,而不是完整API平台。
09 / 社区为何兴奋:开源模型终于连“怎么跑”也开始公开
过去很多开源模型只提供权重。企业拿到模型后,仍要自己解决调度、缓存、并行、结构化输出和协议兼容,部署成本可能远高于预期。DeepInfer与deepseek-recipe把一部分生产经验变成可阅读、可运行、可修改的代码。


社区有人据此推算第三方服务商可能获得90%以上利润率。这个数字不能直接采用:它没有统一计入硬件折旧、网络、存储、能源、运维、闲置容量、价格竞争和需求波动。更稳妥的结论是,开源优化会扩大高效服务的可能性,但不会自动生成利润。

10 / 安装教程:先跑通离线推理,再谈生产集群
- 确认硬件:当前官方支持NVIDIA SM100或华为昇腾950,不要默认消费级GPU可直接运行。
- 准备环境:Linux、GCC 13以上、Python 3.12;按平台安装CUDA 13或CANN 9.2。
- 克隆仓库:从DeepSeek官方GitHub获取DeepInfer,并完整初始化依赖。
- 选择加速器:设置
DEEPINFER_ACCELERATOR=nvidia或ascend。 - 编译:执行
./build.sh,先解决内核、驱动和编译器兼容问题。 - 离线验证:运行
python examples/offline_inference.py,确认模型加载、采样和结构化输出。 - 复现实验:使用仓库提供的benchmark与eval脚本,在自己的硬件上测Prefill、Decode、延迟和显存。
- 生产化设计:再评估KV Cache、服务解耦、负载均衡、网关、监控、限流、冗余与数据安全。
11 / 那些夸张财务推演,应该怎么看?


原文借助网络图片和尖锐措辞,把DeepSeek的开放路线与闭源商业模式对立起来。这种表达有传播力,但技术开源与商业闭源不是简单的道德二选一:训练成本、服务责任、安全边界、许可证和生态策略都会影响公司选择。

原文还引用了未独立核验的Anthropic财务图与社区长篇测算。本文保留图片作为原始讨论背景,但不把其中数字作为已确认事实。

“1GW算力一年产生1000亿至1490亿美元收入”以及“全球25GW推理需要2.5万亿美元Token消费”等推演,建立在持续满载、固定价格、相同硬件效率和足够需求等强假设上。它们更适合用来讨论供需上限,不适合当作收入预测。
12 / 做视频网分析:真正被开源的,是推理服务的学习曲线
DeepInfer最有价值的地方,不是让所有人复制DeepSeek的利润,而是降低理解生产推理系统的门槛。开发者可以直接看到并行、调度、投机解码、缓存回放和结构化输出如何组合,而不必只读论文或猜测线上实现。
它也把一个现实讲得很清楚:AI竞争正在从“谁有更大模型”转向“谁能用更少算力、更低延迟和更稳定协议把模型交付出去”。未来模型能力差距缩小时,Infra效率会直接决定API价格与可用场景。
一句话判断:DeepSeek确实开放了高价值的生产推理核心,但“下载代码就能复制155万亿Token/天”并不现实。真正的机会属于能把开源引擎、缓存、网络、调度和业务需求重新组合起来的团队。
相关站内内容
- DeepInfer导航:https://www.zuoshipin.com/link/56952.html
- deepseek-recipe导航:https://www.zuoshipin.com/link/56953.html
- DeepSeek V4.1 Flash 1017解析:https://www.zuoshipin.com/article/55247
- DeepSeek官方导航:https://www.zuoshipin.com/link/873.html
- 本地MoE推理工具FreeToken:https://www.zuoshipin.com/link/23626.html
- 更多AI资讯:https://www.zuoshipin.com/archive/75






