跳到正文
TensorRT-LLM Releases· tongyuantongyu·· 2026-08-12AI 评分22

TensorRT-LLM v1.3.0rc24 发布:新增 Kimi K3、MiniCPM-V 4.6 与 Whisper 支持

v1.3.0rc24

AI 导读

TensorRT-LLM 发布 v1.3.0rc24,新增 Kimi K3(含 KDA kernel、优化 MoE、投机解码与分离式服务)、MiniCPM-V 4.6 图像视频支持,以及 PyTorch 后端的 Whisper 支持。

来源:TensorRT-LLM Releases · github.com