跳到正文
llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分30

llama.cpp b11970 为 Hexagon NPU 新增 conv2d 支持

b11970

AI 导读

llama.cpp 发布 b11970,为 Hexagon NPU 后端新增 conv2d 算子支持,并加入 CONV_2D_DW 深度卷积的基础实现。该实现采用隐式 GEMM、双缓冲暂存与 DMA 流水线,移除标量与 HVX 路径,同时修复 HMX 路径的 f16 溢出问题。此次更新还调整 hex-softmax 的过时门控,使 SOFT_MAX 可用于 mmproj。

来源:llama.cpp Releases · github.com