跳到正文
llama.cpp Releases· IMbackK·· 5 小时前AI 评分6

llama.cpp b11545 修复 CUDA/HIP flash_attn 竞态问题

b11545

AI 导读

llama.cpp 发布 b11545 版本,修复了 CUDA/HIP 后端 flash_attn_ext_f16_process_tile 在 nbatch_com 场景下的竞态问题。该提交已在 GitHub 上通过签名验证,具体改动细节未在发布说明中展开。

来源:llama.cpp Releases · github.com