跳到正文
llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分28

llama.cpp b12031 为 OpenCL 后端新增 iq3 量化支持

b12031

AI 导读

llama.cpp b12031 为 OpenCL 后端加入 iq3_s 与 iq3_xxs 量化支持,覆盖 AOS/SOA mv、tiled mm、noshuffle gemm/gemv 及 Adreno 上的 dp4a 路径,并优化了 Adreno 解码与窄批次场景。相关改动由高通工程师参与提交,Codex 提供辅助。

来源:llama.cpp Releases · github.com