跳到正文
热点事件持续更新

llama.cpp b11933 修复 Vulkan MUL_MAT 维度广播

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b11933,修复 Vulkan 后端 MUL_MAT 的 dim 3 广播问题。此前 supports_op 会拒绝所有 src0 与 src1 在 ne3 上不一致的 MUL_MAT,导致这类矩阵乘法退回 CPU 并复制权重。 该版本让 Vulkan 后端接受这类 MUL_MAT;据发布说明,mul_mm、mul_mmq 和 mul_mat_vec 原本已通过 broadcast3 在 dim 3 上广播 src0。

AI 根据报道生成 · 9 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. llama.cpp Releases
    llama.cpp b11933 修复 Vulkan 后端 MUL_MAT 的 dim 3 广播问题

    llama.cpp b11933 修复 Vulkan 后端 MUL_MAT 的 dim 3 广播问题:此前 supports_op 会拒绝 src0 与 src1 在 ne3 上不一致的所有 MUL_MAT,导致这类矩阵乘法退回 CPU 并复制权重。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。