跳到正文
llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分15

llama.cpp b12018 修复 SYCL 后端 f32 到 q2_0/q4_0/q5_0 的 CPY 舍入问题

b12018

AI 导读

llama.cpp 发布 b12018 版本,修复 SYCL 后端在 CPY 操作中 f32 转换为 q2_0/q4_0/q5_0 量化格式时的舍入问题(#31120)。该版本同步更新 macOS、Linux、Windows、Android 等多平台构建产物,涵盖 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等后端。

来源:llama.cpp Releases · github.com