跳到正文
llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分15

llama.cpp b12034 修复 webgpu 后端 CI:scratch 分配大小按 batch 长度单调

b12034

AI 导读

llama.cpp 发布 b12034,修复 webgpu 后端 CI 失败:flash attention vec 路径与 MMVQ 路径会在 dst 后追加 scratch 区域,但 get_alloc_size 仅在当前 batch 走该路径时计入,导致分配大小不随 batch 长度单调,GGML_SCHED_NO_REALLOC 构建因意外重分配而中止。

来源:llama.cpp Releases · github.com