llama.cpp b12118 改进 OpenCL 解码与 FA 支持
热点事件持续更新
llama.cpp b12118 改进 OpenCL 解码与 FA 支持
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b12118 版本，通过 OpenCL 后端改进 decode 性能，并为 q4_K gate up + GLU 启用更多 workgroup。 该版本同时扩展 Flash Attention 对 GQA 的支持，覆盖 GQA 2/6（head size 256）、GQA 16（head size 128、512）及 GQA 2（head size 512）。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 06:17
llama.cpp b12118 发布：OpenCL 后端优化 decode 性能与 FA 支持报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- llama.cpp Releasesllama.cpp b12118 发布：OpenCL 后端优化 decode 性能与 FA 支持
llama.cpp b12118 通过 OpenCL 后端改进 decode 性能，为 q4_K gate up + GLU 启用更多 workgroup。该版本扩展了 FA 对 GQA 的支持，覆盖 GQA 2/6（head size 256）、GQA 16（head size 128、512）及 GQA 2（head size 512）。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。