llm-d 发布 1.0,加入面向 Agent 的会话路由与多租户流控
llm-d 于 10 月 20 日发布 1.0,为 Kubernetes 分布式模型推理加入会话感知路由、多租户流控与高可用升级机制。
1 分钟
Perplexity 开源 SPACE 沙箱,支持隔离运行 Agent 代码
Perplexity 于 10 月 15 日以 Apache 2.0 开源 Agent 沙箱 SPACE,提供基于微型虚拟机的隔离执行、暂停恢复及生命周期管理。
1 分钟
llm-d 于 10 月 20 日发布 1.0,为 Kubernetes 分布式模型推理加入会话感知路由、多租户流控与高可用升级机制。
Perplexity 于 10 月 15 日以 Apache 2.0 开源 Agent 沙箱 SPACE,提供基于微型虚拟机的隔离执行、暂停恢复及生命周期管理。