跳到正文
llama.cpp Releases· ggerganov·· 7 小时前AI 评分12

llama.cpp b11735 修复 Metal 后端 moe_reduce 融合竞态

b11735: metal : fix moe_reduce fusion race when dst aliases its inputs (#30795)

AI 导读

llama.cpp b11735 修复了 Metal 后端 moe_reduce 融合内核的竞态问题:当 dst 与输入内存重叠时,融合内核会因 threadgroup 间竞争产生罕见的非确定性错误结果,该问题在 meta 后端运行 test-llama-archs -a kolibri 时被观察到。

来源:llama.cpp Releases · github.com