DeepSeek 近日将自研的高性能推理框架 DeepInfer 全面开源，并首次公开了推理吞吐量与收入数据。
数据显示，单张 GPU 每小时推理收入约 38 美元，按 6.7 汇率折合每小时 255 元人民币。以此计算，单卡日收入约 6100 元，月收入约 18.3 万元。若扩展到 8 卡服务器，月收入可达约 146 万人民币。
DeepInfer：DeepSeek 的生产级推理引擎
DeepInfer 是 DeepSeek 自主研发的高性能推理框架，专为大模型在海请求下的高效运转而设计。用户通过聊天、写代码或调用 API 与 DeepSeek 交互时，背后都有 GPU 集群在持续计算，每个 Token 的生成都需要消耗计算资源。
对于 DeepSeek 这类大规模运营的公司，推理效率哪怕提升几个百分点，放到整个集群上都能节省可观的费用。DeepInfer 的核心技术包括：高性能计算内核、分布式推理、MoE 专家并行、推测解码、异步调度和结构化输出等。
DeepSeek 还公布了一组数据：单集群每天处理约 155 万亿 Token。以每篇文章 2000 Token 估算，相当于每天处理 775 亿篇文章的吞吐量。
配套开源项目 deepseek-recipe
此次同步开源的还有 deepseek-recipe 项目，负责 Token 编码、解码以及与 DeepSeek 官方 API 保持一致的处理逻辑。DeepInfer 专注高速推理，deepseek-recipe 负责协议处理，两者配合完整展示了 DeepSeek 生产环境中的关键技术链路。
DeepInfer 采用 Apache 2.0 开源协议，个人和企业均可自由研究、修改、集成或用于商业项目。
对开源生态的影响
DeepSeek 将生产级推理技术公开，为整个 AI 基础设施生态带来了新的参考标准：
- AI API 服务商可以研究其推理优化方案
- 算力平台可以学习 GPU 集群调度方式
- 企业私有化部署可以直接集成这些技术
- 社区可能围绕 DeepInfer 开发部署工具、监控平台、推理网关等周边生态
随着越来越多的开发者能够使用顶级推理技术，AI 服务的成本有望进一步降低。
