10月21日 · 09:30llm-d 发布 1.0，加入面向 Agent 的会话路由与多租户流控llm-d 于 10 月 20 日发布 1.0，为 Kubernetes 分布式模型推理加入会话感知路由、多租户流控与高可用升级机制。AIllm-d分布式推理Agent开源基础设施1 分钟