llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分15
llama.cpp b11558 发布:修复 OpenCL 的 Q4_K 图像限制与 q4_0 广播问题
b11558
AI 导读
llama.cpp 发布 b11558,修复 OpenCL 后端中 Q4_K dense bin kernel 的权重图像超出设备限制问题,并新增回退机制。该版本同时修复 q4_0 广播,并避免 rms_norm 中出现不完整子组。
来源:llama.cpp Releases · github.com