跳到正文
热点事件持续更新

审计发现公共库部分量化LLM文件功能失效

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

一项针对公共模型库的审计发现,部分量化 LLM 文件在代码任务上功能失效。研究测试了 Ollama 官方库 15 个模型系列的 305 个可执行 GGUF 标签,以及 Hugging Face 社区 22 个热门文件,其中 7 个官方标签(2.3%)在全部 164 项 HumanEval+ 任务中最多只解出 6 项,且均为参数量不超过 40 亿的低比特量化模型。 作者 Aditi Patodiya 发布了论文、审计数据和 quantcheck 工具,并建议在发布前筛查低比特标签,对失败项进行校准或不予发布。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.SE
    研究发现公共模型库中部分量化 LLM 文件功能失效,并提出筛查方法

    研究测试了 Ollama 官方库 15 个模型系列的 305 个可执行代码的 GGUF 标签,以及 Hugging Face 社区 22 个热门文件,发现 7 个官方标签(2.3%)在全部 164 项 HumanEval+ 任务中最多只解出 6 项,且均为参数量不超过 40 亿的低比特量化模型。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。