第 2026-10-20 期 · 行业追踪 · 开源 · 模型发布 · 研究
DeepSeek开源其生产级推理引擎DeepInfer

DeepSeek开源了支撑其大规模生产服务的高性能推理框架DeepInfer,本次发布聚焦离线推理。该框架支持DeepSeek-V4.1-Flash,包含注意力DP、MoE EP+EPLB等并行方案及FlashMLA、DeepGEMM等优化内核,并采用DSpark与置信度调度验证加速解码。
查看原文 ↗
DeepSeek开源了支撑其大规模生产服务的高性能推理框架DeepInfer,本次发布聚焦离线推理。该框架支持DeepSeek-V4.1-Flash,包含注意力DP、MoE EP+EPLB等并行方案及FlashMLA、DeepGEMM等优化内核,并采用DSpark与置信度调度验证加速解码。
查看原文 ↗