跳到正文
热点事件持续更新

BenchChecker:检测代码修复基准的数据污染

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Di Wu 等研究者提出污染检测框架 BenchChecker,用于检测 LLM 自动程序修复基准中的数据污染,兼容开源与闭源模型。 该方法基于一个观察:持久补丁可能残留在训练所用的近期仓库快照中。检测分两阶段:先用代码前缀探测模型,推断训练是否包含该仓库;再通过相似度对齐与测试套件验证补丁是否留存。

AI 根据报道生成 · 47 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.SE
    BenchChecker:评估 LLM 修 Bug 基准的可信度

    论文提出 BenchChecker 框架,用于检测 LLM 自动程序修复基准中的数据污染,兼容开源与闭源模型。该方法基于持久补丁可能残留在训练所用近期仓库快照中的观察,采用两阶段取证检测:先用代码前缀探测模型推断训练是否包含该仓库,再通过相似度对齐与测试套件验证补丁是否留存。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。