跳到正文
llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分22

llama.cpp b11574 发布:优化 Hexagon NPU 的 CPY/CONCAT 性能

b11574

AI 导读

llama.cpp 发布 b11574,针对 Hexagon NPU 的 CPY/CONCAT 操作进行第三轮优化,将转换型 CPY 按行块拆分至 DMA 描述符,避免短行受 DMA 延迟限制。此次更新为 f16 新增快速路径,引入双缓冲支持,并修复 mdev 配置下的随机挂起问题。

来源:llama.cpp Releases · github.com