llama.cpp OpenCL 后端新增 iq4_xs 支持
热点事件持续更新
llama.cpp OpenCL 后端新增 iq4_xs 支持
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b12069，为 OpenCL 后端加入 iq4_xs 量化格式的初始支持。该版本针对 Adreno GPU 实现 noshuffle gemm/gemv 和 dp4a 路径，并优化 iq4_xs 的 decode 与窄批次处理。 相关改动由高通工程师参与贡献，Codex 提供辅助。
AI 根据报道生成 · 12 分钟前更新
最新进展11月3日 13:58
llama.cpp b12069 为 OpenCL 后端新增 iq4_xs 量化支持报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- llama.cpp Releasesllama.cpp b12069 为 OpenCL 后端新增 iq4_xs 量化支持
llama.cpp 发布 b12069，为 OpenCL 后端加入 iq4_xs 量化格式的初始支持。该版本针对 Adreno GPU 实现了 noshuffle gemm/gemv、dp4a 路径，并优化了 iq4_xs 的 decode 与窄批次处理。相关改动由高通工程师参与贡献，Codex 提供辅助。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。