跳到正文
热点事件持续更新

SWE-Bench Pro Verified基准发布

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Pujun Zheng等作者发布 SWE-Bench Pro Verified,一个针对软件工程智能体评测的修正版基准。据作者称,原 SWE-Bench Pro 的评估存在两类不可靠来源:一是奖励攻击,源于金标答案或隐藏评估信息泄漏;二是任务质量问题,包括误导性题目描述和范围不当的测试。新基准即针对这两类问题作出修正。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv cs.SE
    SWE-Bench Pro Verified:面向软件工程智能体的可靠基准

    论文提出 SWE-Bench Pro Verified,针对 SWE-Bench Pro 评估中的两类不可靠来源进行修正:一是奖励攻击,源于金标答案或隐藏评估信息泄漏;二是任务质量问题,包括误导性题目描述和范围不当的测试。

本事件热度走势

可比范围当前
9
可比范围峰值
1010月12日 12:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。