llama.cpp 发布 b11574 优化 Hexagon NPU
热点事件持续更新
llama.cpp 发布 b11574 优化 Hexagon NPU
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11574 版本,对 Hexagon NPU 的 CPY/CONCAT 操作进行第三轮优化。此次更新将转换型 CPY 按行块拆分至 DMA 描述符,以避免短行受 DMA 延迟限制,同时为 f16 新增快速路径、引入双缓冲支持,并修复 mdev 配置下的随机挂起问题。
AI 根据报道生成 · 1 小时前更新
最新进展10月12日 23:16
llama.cpp b11574 发布:优化 Hexagon NPU 的 CPY/CONCAT 性能报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- llama.cpp Releasesllama.cpp b11574 发布:优化 Hexagon NPU 的 CPY/CONCAT 性能
llama.cpp 发布 b11574,针对 Hexagon NPU 的 CPY/CONCAT 操作进行第三轮优化,将转换型 CPY 按行块拆分至 DMA 描述符,避免短行受 DMA 延迟限制。此次更新为 f16 新增快速路径,引入双缓冲支持,并修复 mdev 配置下的随机挂起问题。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。