llama.cpp Releases· github-actions[bot]·· 13 小时前AI 评分36
llama.cpp 发布 b11763,为 OpenCL 后端新增多个小批量 GEMM 变体
b11763
AI 导读
llama.cpp 发布 b11763 版本,为 OpenCL 后端新增多个面向小批量的 GEMM 变体,并修复 mul_mv_mxfp4_f32_flat 的越界读取。该版本移除了强制将大 N 权重放在 CPU 上的限制,同时按 workgroup 大小限制 q4_0 mc3 的子组数量,并新增 q4_k dp4a GEMM 小批量变体、mul_mm_f16_f32_l4_lm 窄变体等实现。
来源:llama.cpp Releases · github.com