DeepSeek 开源 DeepInfer,开放 V4.1 Flash 离线推理框架
DeepSeek 于 10 月 20 日开源 DeepInfer,公开面向 V4.1 Flash 的优化算子、并行和调度能力;当前版本仅支持离线推理。
2026 年 10 月 20 日,DeepSeek 以 Apache 2.0 许可证开源推理框架 DeepInfer。公开版本支持 DeepSeek-V4.1-Flash,包含优化算子、注意力与专家并行、异步调度、结构化输出等能力,可用于研究和构建该模型的离线推理流程。官方说明,完整在线服务所需的 KV 缓存系统、预填充与解码分离、跨副本负载均衡尚未包含在此次发布中。