llama.cpp SYCL 后端为短 TOP_K 行加入 work-group argmax
热点事件持续更新
llama.cpp SYCL 后端为短 TOP_K 行加入 work-group argmax
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11963，为 SYCL 后端加入针对短 TOP_K 行的 work-group argmax 优化（#31110）。改动适用于 ncols 不超过最大 work-group 大小的行，每列由一个 work-item 负责，进行 k 轮 work-group argmax；更长的行仍走原有路径。 发布说明称，1024 x 8192、k=2 的情形因此慢 3.7%。测试中 ncols 为 [256,2,3,4] 的行曾出现一次失败，base 与 patch 各重跑 3 次均通过。
AI 根据报道生成 · 9 分钟前更新
最新进展10月28日 22:18
llama.cpp b11963 发布：SYCL 后端为短 TOP_K 行实现 work-group argmax报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- llama.cpp Releasesllama.cpp b11963 发布：SYCL 后端为短 TOP_K 行实现 work-group argmax
llama.cpp 发布 b11963，为 SYCL 后端加入针对短 TOP_K 行的 work-group argmax 优化（#31110）。改动使用 angelX 优化 SYCL 协调，ncols 为 [256,2,3,4] 的行曾出现一次失败，base 与 patch 各 3/3 重跑均通过。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。