llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分28
llama.cpp b12031 为 OpenCL 后端新增 iq3 量化支持
b12031
AI 导读
llama.cpp b12031 为 OpenCL 后端加入 iq3_s 与 iq3_xxs 量化支持,覆盖 AOS/SOA mv、tiled mm、noshuffle gemm/gemv 及 Adreno 上的 dp4a 路径,并优化了 Adreno 解码与窄批次场景。相关改动由高通工程师参与提交,Codex 提供辅助。
来源:llama.cpp Releases · github.com