TensorRT-LLM Releases· tongyuantongyu·· 16 天前AI 评分18
TensorRT-LLM v1.3.0rc28 发布
v1.3.0rc28
AI 导读
TensorRT-LLM 发布 v1.3.0rc28,新增 DFlash 2 支持并为 Llama、Llama4 默认启用 KV-cache manager V2,同时扩展 Qwen3.8-Flash-Next 的 disaggregation、MegaMoE 与 GVR index reuse 支持。
来源:TensorRT-LLM Releases · github.com