llama.cpp Hexagon 后端新增 Q1_0/Q2_0 量化支持
热点事件持续更新
llama.cpp Hexagon 后端新增 Q1_0/Q2_0 量化支持
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11716，为 Hexagon NPU 后端新增 Q1_0 和 Q2_0 两种量化格式的支持，并在 2D HMX MUL_MAT 路径中启用 Q1_0 权重。 该版本同时修复了 MUL_MAT_NX 对方形分块的假设，以适配 Q1/Q2 的非方形 tile，并优化 Q1_0 布局以减少 unpack/vrmpy 开销。
AI 根据报道生成 · 1 小时前更新
最新进展10月18日 04:36
llama.cpp b11716 为 Hexagon NPU 增加 Q1_0 与 Q2_0 量化支持报道时间线
沿着报道，了解事件的不同侧面。
10月18日
- llama.cpp Releasesllama.cpp b11716 为 Hexagon NPU 增加 Q1_0 与 Q2_0 量化支持
llama.cpp 发布 b11716，为 Hexagon NPU 后端新增 Q1_0 和 Q2_0 量化支持，并在 2D HMX MUL_MAT 路径中启用 Q1_0 权重。该版本还修复了 MUL_MAT_NX 对方形分块的假设，以适配 Q1/Q2 的非方形 tile，并优化了 Q1_0 布局以减少 unpack/vrmpy 开销。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。