跳到正文
llama.cpp Releases· github-actions[bot]·· 29 分钟前AI 评分22

llama.cpp b12077 发布:支持 GLM-5.3 的 next sm tensor

b12077

AI 导读

llama.cpp 发布 b12077 版本,为 GLM-5.3 的 next sm tensor 提供支持,并修复了非统一 KV cache 下 permuted q 的视图拆分问题。该版本还调整了 MLA 头按对拆分逻辑,解决 HIP tile FA kernel 在 D=512 时要求 GQA 比例为偶数的问题。

来源:llama.cpp Releases · github.com