LMDeploy Releases· lvhan028·· 2026-09-01AI 评分22
LMDeploy v0.17.0 发布:支持 Kimi K2.6 与 DeepEPv2
v0.17.0
AI 导读
LMDeploy 发布 v0.17.0,新增对 Kimi K2.6 和 DeepEPv2 的支持,并集成 mooncake store 作为 KV connector。该版本进一步优化 GLM-5.2 服务性能,在 CUDA 上为 paged attention 和 V4 prefill 引入 PDL,同时降低投机解码前后处理开销,并支持非 2 的幂次 page size。
来源:LMDeploy Releases · github.com