llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分28
llama.cpp b11963 发布:SYCL 后端为短 TOP_K 行实现 work-group argmax
b11963
AI 导读
llama.cpp 发布 b11963,为 SYCL 后端加入针对短 TOP_K 行的 work-group argmax 优化(#31110)。改动使用 angelX 优化 SYCL 协调,ncols 为 [256,2,3,4] 的行曾出现一次失败,base 与 patch 各 3/3 重跑均通过。
来源:llama.cpp Releases · github.com