跳到正文
llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分22

llama.cpp b11933 修复 Vulkan 后端 MUL_MAT 的 dim 3 广播问题

b11933

AI 导读

llama.cpp b11933 修复 Vulkan 后端 MUL_MAT 的 dim 3 广播问题:此前 supports_op 会拒绝 src0 与 src1 在 ne3 上不一致的所有 MUL_MAT,导致这类矩阵乘法退回 CPU 并复制权重。

来源:llama.cpp Releases · github.com