llama.cpp b11933 修复 Vulkan MUL_MAT 维度广播
热点事件持续更新
llama.cpp b11933 修复 Vulkan MUL_MAT 维度广播
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11933,修复 Vulkan 后端 MUL_MAT 的 dim 3 广播问题。此前 supports_op 会拒绝所有 src0 与 src1 在 ne3 上不一致的 MUL_MAT,导致这类矩阵乘法退回 CPU 并复制权重。 该版本让 Vulkan 后端接受这类 MUL_MAT;据发布说明,mul_mm、mul_mmq 和 mul_mat_vec 原本已通过 broadcast3 在 dim 3 上广播 src0。
AI 根据报道生成 · 9 分钟前更新
最新进展10月27日 20:39
llama.cpp b11933 修复 Vulkan 后端 MUL_MAT 的 dim 3 广播问题报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- llama.cpp Releasesllama.cpp b11933 修复 Vulkan 后端 MUL_MAT 的 dim 3 广播问题
llama.cpp b11933 修复 Vulkan 后端 MUL_MAT 的 dim 3 广播问题:此前 supports_op 会拒绝 src0 与 src1 在 ne3 上不一致的所有 MUL_MAT,导致这类矩阵乘法退回 CPU 并复制权重。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。