llama.cpp 修复 Metal moe_reduce 融合竞态
热点事件持续更新
llama.cpp 修复 Metal moe_reduce 融合竞态
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
llama.cpp 在 b11735 版本中修复了 Metal 后端 moe_reduce 融合内核的竞态问题。ggerganov 提交的改动在 dst 与任一输入内存重叠时拒绝启用该融合,采用与 mul_mat_add 融合相同的保护条件。 此前,当 dst 与输入内存重叠时,融合内核会因 threadgroup 之间的竞争产生罕见的非确定性错误结果;该问题在 meta 后端运行 test-llama-archs -a kolibri 时被观察到。
AI 根据报道生成 · 35 分钟前更新
最新进展10月19日 16:55
llama.cpp b11735 修复 Metal 后端 moe_reduce 融合竞态报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- llama.cpp Releasesllama.cpp b11735 修复 Metal 后端 moe_reduce 融合竞态
llama.cpp b11735 修复了 Metal 后端 moe_reduce 融合内核的竞态问题:当 dst 与输入内存重叠时,融合内核会因 threadgroup 间竞争产生罕见的非确定性错误结果,该问题在 meta 后端运行 test-llama-archs -a kolibri 时被观察到。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。