跳到正文
llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分22

llama.cpp b11909 发布:Hexagon NPU 的 MUL_MAT_ID 行跳过优化

b11909

AI 导读

llama.cpp 发布 b11909 版本,为 Hexagon NPU 后端加入 MUL_MAT_ID 行跳过优化,并对跳过的行清零做向量化处理、将清零操作并入融合的 MM_ID_NX 路径,同时移除标量除法。

来源:llama.cpp Releases · github.com