跳到正文
LMDeploy Releases· lvhan028·· 2026-09-01AI 评分22

LMDeploy v0.17.0 发布:支持 Kimi K2.6 与 DeepEPv2

v0.17.0

AI 导读

LMDeploy 发布 v0.17.0,新增对 Kimi K2.6 和 DeepEPv2 的支持,并集成 mooncake store 作为 KV connector。该版本进一步优化 GLM-5.2 服务性能,在 CUDA 上为 paged attention 和 V4 prefill 引入 PDL,同时降低投机解码前后处理开销,并支持非 2 的幂次 page size。

来源:LMDeploy Releases · github.com