llama.cpp Releases· SG-Amadeus·· 5 小时前AI 评分12
llama.cpp b11543:Vulkan 后端为 NVIDIA MUL_MAT_ID MMVQ 改用 4 行
b11543: vulkan: use 4 rows for NVIDIA MUL_MAT_ID MMVQ (#29274)
AI 导读
llama.cpp 发布 b11543 版本,在 Vulkan 后端将 NVIDIA 的 MUL_MAT_ID MMVQ 路径改为使用 4 行,Turing 之前的显卡除外。此次改动保留 RDNA3/4 原有策略不变,仅更新 rm_id。
来源:llama.cpp Releases · github.com