LMDeploy v0.15.0 发布：支持 DeepSeek V4 与 MTP 前缀缓存
LMDeploy 发布 v0.15.0，新增 DeepSeek V4 支持，并支持长上下文与 MTP 前缀缓存命中。该版本为投机解码加入引导式解码支持，新增 AgRs all2all 后端与 memdecode 支持，同时优化 TTFT 并改进 Ascend-A3 多节点支持。
#DeepSeek
LMDeploy ReleasesAI 评分2222
SGLang ReleasesAI 评分2828 SGLang v0.5.16 发布：新增 DSpark 投机解码与 Inkling 模型支持
SGLang 发布 v0.5.16，包含 169 位贡献者的 574 个 PR。新投机解码算法 DSpark 在 DeepSeek-V4-Pro 上达到 383.7 tok/s，新增 975B 参数、1M token 上下文的 Inkling 多模态 MoE 模型支持。该版本还移除 QServe 与 FBGEMM FP8 量化路径，NVFP4 GEMM 现需 FlashInfer。
Axolotl ReleasesAI 评分2828 Axolotl v0.17.0 发布：新增 MoE 专家并行与 BitNet 1.58-bit 微调
Axolotl v0.17.0 发布，新增基于 DeepEP 的 MoE 专家并行（EP）训练、BitNet 1.58-bit 全量微调，以及通过 Tinker 兼容 API 的远程训练。