llama.cpp Releases· github-actions[bot]·· 7 小时前AI 评分22
llama.cpp b11876 修复 Vulkan 后端小矩阵乘法 tile 问题
b11876
AI 导读
llama.cpp 发布 b11876,修复 Vulkan 后端小 matmul tile 中每个 subgroup 的 warp tile 分配问题。此前 16-wide subgroup(Mali)会写入相邻 tile 的列,8-wide subgroup 下部分 _id tile 存在未计算的行;改动后按 subgroup 推导 WM。
来源:llama.cpp Releases · github.com