跳到正文
热点事件持续更新

llama.cpp b12034 修复 WebGPU CI 失败

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b12034,修复 WebGPU 后端 CI 失败。问题出在 scratch 分配大小:flash attention vec 路径与 MMVQ 路径会在 dst 后追加 scratch 区域,但 get_alloc_size 仅在当前 batch 走该路径时计入,导致分配大小不随 batch 长度单调变化。 在 GGML_SCHED_NO_REALLOC 构建中,这引发意外重分配并中止 CI。b12034 让 scratch 分配大小随 batch 长度保持单调,从而消除该失败。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. llama.cpp Releases
    llama.cpp b12034 修复 webgpu 后端 CI:scratch 分配大小按 batch 长度单调

    llama.cpp 发布 b12034,修复 webgpu 后端 CI 失败:flash attention vec 路径与 MMVQ 路径会在 dst 后追加 scratch 区域,但 get_alloc_size 仅在当前 batch 走该路径时计入,导致分配大小不随 batch 长度单调,GGML_SCHED_NO_REALLOC 构建因意外重分配而中止。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。