跳到正文
llama.cpp Releases· SG-Amadeus·· 5 小时前AI 评分12

llama.cpp b11543:Vulkan 后端为 NVIDIA MUL_MAT_ID MMVQ 改用 4 行

b11543: vulkan: use 4 rows for NVIDIA MUL_MAT_ID MMVQ (#29274)

AI 导读

llama.cpp 发布 b11543 版本,在 Vulkan 后端将 NVIDIA 的 MUL_MAT_ID MMVQ 路径改为使用 4 行,Turing 之前的显卡除外。此次改动保留 RDNA3/4 原有策略不变,仅更新 rm_id。

来源:llama.cpp Releases · github.com