SGLang 发布 0.5.22，引入加速模型加载的 InstantTensor
SGLang 于 10 月 19 日发布 0.5.22，加入 InstantTensor 加载器，改进长提示词推理吞吐量，并扩展硬件支持。
2026 年 10 月 19 日，开源大模型推理框架 SGLang 发布 0.5.22 版本，加入 InstantTensor 模型加载器，并扩展对多种模型及硬件平台的支持。项目发布说明称，InstantTensor 可使模型加载速度提高至原来的约 10 倍；长提示词场景下，预填充与解码分离的吞吐量最高提升 27%，首 token 延迟的第 95 百分位约减半。这些数字是项目方报告的特定测试结果。
此版本还支持在 Apple Silicon Mac 上使用标准 PyTorch 后端运行，并修复混合线性模型在推测解码与结构化输出组合下可能恢复错误状态的问题。升级需使用 Python 3.11 或更新版本。