跳到正文
llama.cpp Releases· github-actions[bot]·· 10 小时前AI 评分28

llama.cpp b12005 为 OpenCL 后端新增 q2_0 量化支持

b12005

AI 导读

llama.cpp 发布 b12005,为 OpenCL 后端加入 q2_0 量化初步支持,覆盖 AOS/SOA mv、tiled mm 及 Adreno 平台的 gemm/gemv 与 dp4a 路径。该版本还针对 Adreno 优化了 q2_0 解码与窄批次场景,相关贡献来自 Qualcomm 工程师。

来源:llama.cpp Releases · github.com