POPE基准VLM幻觉评测受token读取方式影响
热点事件观察中
POPE基准VLM幻觉评测受token读取方式影响
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
一篇论文审计了POPE基准上视觉语言模型幻觉评测的Yes/No读取方式,结论是仅token选择本身就会造成大幅F1波动。LLaVA-1.5-7B在对抗集上测得82.21 F1,比计划对比的基线高1.21至8.67分。 改用覆盖带空格形式的八token查找后,对抗集F1变为0.8221,6.13分的偏移超过所调查六篇论文中五篇报告的对抗集增益。论文作者称,未报告的token查找协议和量化会混淆所报告的幻觉缓解增益。
AI 根据报道生成 · 1 小时前更新
最新进展10月19日 04:00
Token-Set Choice Confounds POPE:VLM 幻觉评测中 Yes/No 提取的系统性审计报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- Hugging Face Daily PapersToken-Set Choice Confounds POPE:VLM 幻觉评测中 Yes/No 提取的系统性审计
论文审计了 POPE 基准上视觉语言模型的 Yes/No 读取方式,发现仅读取 token 的选择本身就会造成大幅 F1 波动。LLaVA-1.5-7B 在对抗集上测得 82.21 F1,比计划对比的基线高 1.21 至 8.67 分;改用覆盖带空格形式的八 token 查找后,对抗集 F1 变为 0.8221,6.13 分的偏移超过所调查六篇论文中五篇报告的对抗集增益。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。