跳到正文
llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分22

llama.cpp b11811 为 KleidiAI 新增 Q8_0 SVE dotprod GEMV 与 SVE i8mm GEMM 内核

b11811

AI 导读

llama.cpp 发布 b11811 版本,在 KleidiAI 后端新增 Q8_0 SVE dotprod GEMV 和 SVE i8mm GEMM 两个内核(#30808)。该版本同时更新了 macOS、Linux、Android、Windows 及 openEuler 等多平台构建产物,其中 macOS Apple Silicon 的 KleidiAI 启用版本仍标记为 DISABLED。

来源:llama.cpp Releases · github.com