llama.cpp Releases· github-actions[bot]·· 14 小时前AI 评分22
llama.cpp b12099 为 Hexagon 后端新增 LIGHTNING_INDEXER 支持
b12099
AI 导读
llama.cpp 发布 b12099,为 Hexagon 后端加入 LIGHTNING_INDEXER 算子支持,覆盖 prefill 的 HMX 路径与 q8_0 decode gather transpose。
来源:llama.cpp Releases · github.com