llama.cpp Releases· IMbackK·· 5 小时前AI 评分6
llama.cpp b11545 修复 CUDA/HIP flash_attn 竞态问题
b11545
AI 导读
llama.cpp 发布 b11545 版本,修复了 CUDA/HIP 后端 flash_attn_ext_f16_process_tile 在 nbatch_com 场景下的竞态问题。该提交已在 GitHub 上通过签名验证,具体改动细节未在发布说明中展开。
来源:llama.cpp Releases · github.com