跳到正文
llama.cpp Releases· ngxson·· 8 小时前AI 评分18

llama.cpp b11857:ggml 支持 MUL_MAT_ID 的 -1 索引跳过计算

b11857: ggml : allow MUL_MAT_ID -1 index to skip the computation (#26631)

AI 导读

llama.cpp 发布 b11857,ggml 允许 MUL_MAT_ID 使用 -1 索引跳过对应计算。该改动同步更新 Vulkan 代码,并修复 ggml-webgpu 中 mul_mat_id_vec 的工作组屏障问题,CUDA 与 OpenVINO 被排除在本 PR 之外。

来源:llama.cpp Releases · github.com