TensorRT-LLM Releases· tongyuantongyu·· 2026-08-12AI 评分22
TensorRT-LLM v1.3.0rc24 发布:新增 Kimi K3、MiniCPM-V 4.6 与 Whisper 支持
v1.3.0rc24
AI 导读
TensorRT-LLM 发布 v1.3.0rc24,新增 Kimi K3(含 KDA kernel、优化 MoE、投机解码与分离式服务)、MiniCPM-V 4.6 图像视频支持,以及 PyTorch 后端的 Whisper 支持。
来源:TensorRT-LLM Releases · github.com