跳到正文
热点事件持续更新

llama.cpp 修复 Metal moe_reduce 融合竞态

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

llama.cpp 在 b11735 版本中修复了 Metal 后端 moe_reduce 融合内核的竞态问题。ggerganov 提交的改动在 dst 与任一输入内存重叠时拒绝启用该融合,采用与 mul_mat_add 融合相同的保护条件。 此前,当 dst 与输入内存重叠时,融合内核会因 threadgroup 之间的竞争产生罕见的非确定性错误结果;该问题在 meta 后端运行 test-llama-archs -a kolibri 时被观察到。

AI 根据报道生成 · 35 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. llama.cpp Releases
    llama.cpp b11735 修复 Metal 后端 moe_reduce 融合竞态

    llama.cpp b11735 修复了 Metal 后端 moe_reduce 融合内核的竞态问题:当 dst 与输入内存重叠时,融合内核会因 threadgroup 间竞争产生罕见的非确定性错误结果,该问题在 meta 后端运行 test-llama-archs -a kolibri 时被观察到。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。