DeepSeek V3/R1 推理系统详解：低成本高利润的 AI 模型服务

5.8K 0

DeepSeek 最近在 GitHub 和知乎上发布了 DeepSeek-V3 / R1 推理系统的详细技术解读，展示了其惊人的商业效率。根据官方数据，DeepSeek 的日收入可达 $562,027，成本利润率高达 545%。这不仅意味着更高的收益，还预示着 AI 模型服务将变得更加经济实惠。

商业潜力巨大

自 2024 年 5 月发布 DeepSeekV2 以来，DeepSeek 模型服务一直以低廉的价格吸引用户。尽管市场上存在对其是否亏本运营的质疑，但此次技术解读彻底打消了这些疑虑。Menlo Ventures 的投资人 Deedy 表示，这种商业效率应该使 DeepSeek 成为一家估值 100 亿美元的公司。此外，X 平台上的用户反应热烈，纷纷表示对传统服务商如 OpenAI 的不满。

生态合作伙伴的机会

DeepSeek 的技术解读也为云平台和上下游企业带来了巨大的机遇。硅基流动创始人袁进辉指出，大规模部署 DeepSeek 服务可以显著提升收益和利润率。然而，由于 V3/R1 架构与其他主流模型差异较大，许多供应商还需要时间来适应这一变化。DeepSeek 的开源项目降低了复现难度，帮助社区更快实现高效部署。

优化目标：更大吞吐量和更低延迟

DeepSeek-V3 / R1 推理系统的优化目标是实现更大的吞吐量和更低的延迟。为此，团队采用了大规模跨节点专家并行（Expert Parallelism / EP）。EP 不仅提高了 GPU 矩阵乘法的效率，还减少了每个 GPU 的访存需求，从而降低了延迟。然而，EP 也增加了系统的复杂性，需要精心设计以平衡计算和通信。

计算与通信的重叠

为了掩盖通信开销，DeepSeek 使用了双 batch 重叠技术。在 prefill 阶段，两个 batch 的计算和通信交错进行，有效提高了整体吞吐量。在 decode 阶段，通过将 attention 部分拆分为两个阶段，形成了五个阶段的流水线，实现了计算和通信的重叠。这种设计确保了系统在高负载下的高效运行。

负载均衡的重要性

为了防止某些 GPU 成为性能瓶颈，DeepSeek 实现了多种负载均衡策略。Prefill Load Balancer 和 Decode Load Balancer 分别解决了不同数据并行实例上的请求差异问题，确保各 GPU 的计算量和通信量均衡。Expert-Parallel Load Balancer 则专注于均衡不同 GPU 上的专家计算负载，避免部分 GPU 过载。

实际应用效果

DeepSeek V3 和 R1 推理服务使用 H800 GPU，确保了服务效果的一致性。统计数据显示，在最近 24 小时内，DeepSeek V3 和 R1 推理服务共处理了 608B 输入 token 和 168B 输出 token。平均每台 H800 的吞吐量为：prefill 任务输入吞吐约 73.7k tokens/s，decode 任务输出吞吐约 14.8k tokens/s。尽管实际收入低于理论值，但 DeepSeek 依然保持了极高的利润率。