llama.cpp Releases· github-actions[bot]·· 1 天前AI 评分22
llama.cpp b12081 发布:修复 CUDA 后端 Q8_1 校正求和问题
b12081
AI 导读
llama.cpp 发布 b12081 版本,针对 CUDA 后端 Q8_1 校正求和(correction sum)问题给出潜在修复,并同步调整了 quantize_mmq_q8_1 流程。该修复由 NVIDIA 的 Gaurav Garg 参与提交,对应 PR #31247。版本继续提供 macOS、Linux、Windows、Android 及 openEuler 等多平台构建产物。
来源:llama.cpp Releases · github.com