审计发现公共库部分量化LLM文件功能失效
热点事件持续更新
审计发现公共库部分量化LLM文件功能失效
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
一项针对公共模型库的审计发现,部分量化 LLM 文件在代码任务上功能失效。研究测试了 Ollama 官方库 15 个模型系列的 305 个可执行 GGUF 标签,以及 Hugging Face 社区 22 个热门文件,其中 7 个官方标签(2.3%)在全部 164 项 HumanEval+ 任务中最多只解出 6 项,且均为参数量不超过 40 亿的低比特量化模型。 作者 Aditi Patodiya 发布了论文、审计数据和 quantcheck 工具,并建议在发布前筛查低比特标签,对失败项进行校准或不予发布。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 12:00
研究发现公共模型库中部分量化 LLM 文件功能失效,并提出筛查方法报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.SE研究发现公共模型库中部分量化 LLM 文件功能失效,并提出筛查方法
研究测试了 Ollama 官方库 15 个模型系列的 305 个可执行代码的 GGUF 标签,以及 Hugging Face 社区 22 个热门文件,发现 7 个官方标签(2.3%)在全部 164 项 HumanEval+ 任务中最多只解出 6 项,且均为参数量不超过 40 亿的低比特量化模型。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。