llama.cpp b12034 修复 WebGPU CI 失败
热点事件持续更新
llama.cpp b12034 修复 WebGPU CI 失败
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b12034,修复 WebGPU 后端 CI 失败。问题出在 scratch 分配大小:flash attention vec 路径与 MMVQ 路径会在 dst 后追加 scratch 区域,但 get_alloc_size 仅在当前 batch 走该路径时计入,导致分配大小不随 batch 长度单调变化。 在 GGML_SCHED_NO_REALLOC 构建中,这引发意外重分配并中止 CI。b12034 让 scratch 分配大小随 batch 长度保持单调,从而消除该失败。
AI 根据报道生成 · 1 小时前更新
最新进展11月2日 15:36
llama.cpp b12034 修复 webgpu 后端 CI:scratch 分配大小按 batch 长度单调报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- llama.cpp Releasesllama.cpp b12034 修复 webgpu 后端 CI:scratch 分配大小按 batch 长度单调
llama.cpp 发布 b12034,修复 webgpu 后端 CI 失败:flash attention vec 路径与 MMVQ 路径会在 dst 后追加 scratch 区域,但 get_alloc_size 仅在当前 batch 走该路径时计入,导致分配大小不随 batch 长度单调,GGML_SCHED_NO_REALLOC 构建因意外重分配而中止。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。