llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分22
llama.cpp b11811 为 KleidiAI 新增 Q8_0 SVE dotprod GEMV 与 SVE i8mm GEMM 内核
b11811
AI 导读
llama.cpp 发布 b11811 版本,在 KleidiAI 后端新增 Q8_0 SVE dotprod GEMV 和 SVE i8mm GEMM 两个内核(#30808)。该版本同时更新了 macOS、Linux、Android、Windows 及 openEuler 等多平台构建产物,其中 macOS Apple Silicon 的 KleidiAI 启用版本仍标记为 DISABLED。
来源:llama.cpp Releases · github.com