llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分22
llama.cpp b11968 发布:为 gemm_q6_K_8x8_q8_K 内核加入 SVE 256 bit 实现
b11968
AI 导读
llama.cpp 发布 b11968 版本,为 gemm_q6_K_8x8_q8_K 内核新增 SVE 256 bit 实现(#27472)。该提交同时清理了 q6_k GEMM 代码,移除 pg16_8、将 switch 改为 if,并把 q8_k_blocklen 标记为 UNUSED 以消除非 i8mm 场景的警告。
来源:llama.cpp Releases · github.com