跳到正文
llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分15

llama.cpp b11515 发布:SYCL 后端支持 Q5_K 重排布局 MMVQ 与融合 GLU

b11515

AI 导读

llama.cpp 发布 b11515 版本,为 SYCL 后端加入 Q5_K 重排布局的 MMVQ 与融合 GLU 支持。该版本同步更新 macOS、Linux、Windows、Android 及 openEuler 等多平台构建产物,覆盖 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等后端。

来源:llama.cpp Releases · github.com