llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分22
llama.cpp b11685 为 q4_K/q5_K 权重反量化加入 SYCL 宽存储
b11685
AI 导读
llama.cpp 发布 b11685 版本,为 SYCL 后端的 q4_K/q5_K 权重反量化引入宽存储(wide stores)优化。该改动以 PR #29696 提交,旨在提升 Intel GPU 上相关量化格式的推理效率。
来源:llama.cpp Releases · github.com