llama.cpp Releases· github-actions[bot]·· 13 小时前AI 评分12
llama.cpp b12100 修复 -hf 量化标签匹配问题
b12100
AI 导读
llama.cpp b12100 修复了 -hf 参数在较长量化名称中的标签匹配问题:此前 ":F16" 会误选仓库中的 BF16 文件,":Q4_XS" 也会误匹配 IQ4_XS,现在标签必须从路径中的 token 边界开始。该版本同时接受下划线作为标签边界,使 ":Q4_K_S" 能匹配 stepfun-ai/Step-3.5-Flash-GGUF-Q4_K_S 这类以下划线分隔量化的仓库。
来源:llama.cpp Releases · github.com