llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分15
llama.cpp b12034 修复 webgpu 后端 CI:scratch 分配大小按 batch 长度单调
b12034
AI 导读
llama.cpp 发布 b12034,修复 webgpu 后端 CI 失败:flash attention vec 路径与 MMVQ 路径会在 dst 后追加 scratch 区域,但 get_alloc_size 仅在当前 batch 走该路径时计入,导致分配大小不随 batch 长度单调,GGML_SCHED_NO_REALLOC 构建因意外重分配而中止。
来源:llama.cpp Releases · github.com