跳到正文
llama.cpp Releases· abhijain1204fujitsu·· 3 小时前AI 评分20

llama.cpp b11967:ggml-cpu 新增 mxfp4 gemv 内核的 SVE 256-bit 实现

b11967: ggml-cpu: SVE 256-bit Implementation of mxfp4 gemv kernel (#28141)

AI 导读

llama.cpp 发布 b11967,在 ggml-cpu 中完成 mxfp4 gemv 内核的 SVE 256-bit 实现,性能提升明显。该改动已处理评审意见并补充 SVE 256 检查,同时清理了行尾空格。

来源:llama.cpp Releases · github.com