10月20日 · 09:33SGLang 发布 0.5.22,引入加速模型加载的 InstantTensorSGLang 于 10 月 19 日发布 0.5.22,加入 InstantTensor 加载器,改进长提示词推理吞吐量,并扩展硬件支持。AISGLang推理框架模型部署开源1 分钟