BenchChecker:检测代码修复基准的数据污染
热点事件持续更新
BenchChecker:检测代码修复基准的数据污染
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Di Wu 等研究者提出污染检测框架 BenchChecker,用于检测 LLM 自动程序修复基准中的数据污染,兼容开源与闭源模型。 该方法基于一个观察:持久补丁可能残留在训练所用的近期仓库快照中。检测分两阶段:先用代码前缀探测模型,推断训练是否包含该仓库;再通过相似度对齐与测试套件验证补丁是否留存。
AI 根据报道生成 · 47 分钟前更新
最新进展10月15日 12:00
BenchChecker:评估 LLM 修 Bug 基准的可信度报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv cs.SEBenchChecker:评估 LLM 修 Bug 基准的可信度
论文提出 BenchChecker 框架,用于检测 LLM 自动程序修复基准中的数据污染,兼容开源与闭源模型。该方法基于持久补丁可能残留在训练所用近期仓库快照中的观察,采用两阶段取证检测:先用代码前缀探测模型推断训练是否包含该仓库,再通过相似度对齐与测试套件验证补丁是否留存。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。