2026 年 10 月 20 日,DeepSeek 以 Apache 2.0 许可证开源推理框架 DeepInfer。公开版本支持 DeepSeek-V4.1-Flash,包含优化算子、注意力与专家并行、异步调度、结构化输出等能力,可用于研究和构建该模型的离线推理流程。官方说明,完整在线服务所需的 KV 缓存系统、预填充与解码分离、跨副本负载均衡尚未包含在此次发布中。

来源:DeepInfer 官方代码仓库