arXiv cs.SE· Aditi Patodiya·2026-10-27 12:00· 2 小时前AI 评分58

研究发现公共模型库中部分量化 LLM 文件功能失效，并提出筛查方法

Broken on Arrival: Non-Functional Quantized LLM Artifacts in Public Model Registries and How to Catch Them

AI 导读

研究测试了 Ollama 官方库 15 个模型系列的 305 个可执行代码的 GGUF 标签，以及 Hugging Face 社区 22 个热门文件，发现 7 个官方标签（2.3%）在全部 164 项 HumanEval+ 任务中最多只解出 6 项，且均为参数量不超过 40 亿的低比特量化模型。

来源：arXiv cs.SE · arxiv.org