TensorRT-LLM Releases· tongyuantongyu·· 10 天前AI 评分15
TensorRT-LLM v1.3.0rc29 发布:支持 Qwen3.5、Kimi K3 与 DeepSeek V4
v1.3.0rc29
AI 导读
TensorRT-LLM 发布 v1.3.0rc29,新增对 Qwen3.5 全局 FP8 权重、Kimi K3 NVFP4 SiTU 的 CuTeDSL MoE 后端以及 DeepSeek V4 NVFP4 MLA 残差开关的支持。
来源:TensorRT-LLM Releases · github.com