llama.cpp Releases· github-actions[bot]·· 3 小时前精选AI 评分50
llama.cpp b11979 优化 SYCL 反量化内核，多种量化格式 prefill 提速
b11979
AI 导读
llama.cpp 发布 b11979，对 SYCL 后端的重排布局反量化内核做向量化改造，覆盖 Q4_0、Q4_K、Q5_K、Q6_K、Q3_K、Q2_K、IQ3 和 MXFP4 等格式，输出与标量内核逐位一致。
推荐理由
原文逐项列出 SYCL 反量化内核的向量化改动与对应量化格式的 prefill 提速幅度，可据此判断 Intel GPU 上的推理收益。
来源：llama.cpp Releases · github.com