跳到正文
SGLang Releases· Qiaolin-Yu·· 2026-07-25AI 评分28

SGLang v0.5.16 发布:新增 DSpark 投机解码与 Inkling 模型支持

v0.5.16

AI 导读

SGLang 发布 v0.5.16,包含 169 位贡献者的 574 个 PR。新投机解码算法 DSpark 在 DeepSeek-V4-Pro 上达到 383.7 tok/s,新增 975B 参数、1M token 上下文的 Inkling 多模态 MoE 模型支持。该版本还移除 QServe 与 FBGEMM FP8 量化路径,NVFP4 GEMM 现需 FlashInfer。

来源:SGLang Releases · github.com