llama.cpp Releases· github-actions[bot]·· 7 小时前AI 评分22
llama.cpp b11800 发布:为 QSA mask 新增融合算子并推广为 ggml_top_k_mask
b11800
AI 导读
llama.cpp b11800 为 QSA mask 新增融合算子,并把 k-pool mask 算子推广为通用的 ggml_top_k_mask,支持按行、按 head 生成 top-k mask。
来源:llama.cpp Releases · github.com