llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分22
llama.cpp b11909 发布:Hexagon NPU 的 MUL_MAT_ID 行跳过优化
b11909
AI 导读
llama.cpp 发布 b11909 版本,为 Hexagon NPU 后端加入 MUL_MAT_ID 行跳过优化,并对跳过的行清零做向量化处理、将清零操作并入融合的 MM_ID_NX 路径,同时移除标量除法。
来源:llama.cpp Releases · github.com