llama.cpp OpenCL 后端加入 IQ3 量化支持
热点事件持续更新
llama.cpp OpenCL 后端加入 IQ3 量化支持
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b12031，为 OpenCL 后端加入 iq3_s 与 iq3_xxs 两种 IQ3 量化支持，覆盖 AOS/SOA mv、tiled mm、noshuffle gemm/gemv 以及 Adreno 上的 dp4a 路径，并优化了 Adreno 解码与窄批次场景。 相关改动由高通工程师参与提交，Codex 提供辅助。
AI 根据报道生成 · 1 小时前更新
最新进展11月1日 13:26
llama.cpp b12031 为 OpenCL 后端新增 iq3 量化支持报道时间线
沿着报道，了解事件的不同侧面。
11月1日
- llama.cpp Releasesllama.cpp b12031 为 OpenCL 后端新增 iq3 量化支持
llama.cpp b12031 为 OpenCL 后端加入 iq3_s 与 iq3_xxs 量化支持，覆盖 AOS/SOA mv、tiled mm、noshuffle gemm/gemv 及 Adreno 上的 dp4a 路径，并优化了 Adreno 解码与窄批次场景。相关改动由高通工程师参与提交，Codex 提供辅助。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。