跳到正文
llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分15

llama.cpp b11558 发布:修复 OpenCL 的 Q4_K 图像限制与 q4_0 广播问题

b11558

AI 导读

llama.cpp 发布 b11558,修复 OpenCL 后端中 Q4_K dense bin kernel 的权重图像超出设备限制问题,并新增回退机制。该版本同时修复 q4_0 广播,并避免 rms_norm 中出现不完整子组。

来源:llama.cpp Releases · github.com