llama.cpp b11981 优化 Hexagon 转置 CONCAT
热点事件持续更新
llama.cpp b11981 优化 Hexagon 转置 CONCAT
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11981 版本,针对 Hexagon NPU 后端优化转置 CONCAT 的 DDR 带宽利用率。 改动包括:将转置 CONCAT 的行块大小翻倍、scratchpad 缓冲区翻倍、对 src1 行分块、填充 src1 的 VTCM stride 以分散 gather lane,并把类似的 vgather 优化应用到 SSM_CONV 和 GDN。
AI 根据报道生成 · 24 分钟前更新
最新进展10月29日 14:57
llama.cpp b11981 发布:优化 Hexagon NPU 上转置 CONCAT 的 DDR 带宽利用率报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- llama.cpp Releasesllama.cpp b11981 发布:优化 Hexagon NPU 上转置 CONCAT 的 DDR 带宽利用率
llama.cpp 发布 b11981 版本,针对 Hexagon NPU 优化转置 CONCAT 的 DDR 带宽利用率。改动包括将转置 CONCAT 的行块大小翻倍、缓冲区 scratchpad 翻倍、对 src1 行分块、将 src1 的 VTCM stride 填充以分散 gather lane,并把类似的 vgather 优化应用到 SSM_CONV 和 GDN。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。