DeepSeek 开源 DeepInfer，开放 V4.1 Flash 离线推理框架
DeepSeek 于 10 月 20 日开源 DeepInfer，公开面向 V4.1 Flash 的优化算子、并行和调度能力；当前版本仅支持离线推理。
1 分钟
SGLang 发布 0.5.22，引入加速模型加载的 InstantTensor
SGLang 于 10 月 19 日发布 0.5.22，加入 InstantTensor 加载器，改进长提示词推理吞吐量，并扩展硬件支持。
1 分钟
DeepSeek 于 10 月 20 日开源 DeepInfer，公开面向 V4.1 Flash 的优化算子、并行和调度能力；当前版本仅支持离线推理。
SGLang 于 10 月 19 日发布 0.5.22，加入 InstantTensor 加载器，改进长提示词推理吞吐量，并扩展硬件支持。