跳到正文
TensorRT-LLM Releases· tongyuantongyu·· 10 天前AI 评分15

TensorRT-LLM v1.3.0rc29 发布:支持 Qwen3.5、Kimi K3 与 DeepSeek V4

v1.3.0rc29

AI 导读

TensorRT-LLM 发布 v1.3.0rc29,新增对 Qwen3.5 全局 FP8 权重、Kimi K3 NVFP4 SiTU 的 CuTeDSL MoE 后端以及 DeepSeek V4 NVFP4 MLA 残差开关的支持。

来源:TensorRT-LLM Releases · github.com