跳到正文
arXiv cs.SE· Julian Poeltl, Thomson Yen, Patrick Shea, Shubham Anil Varma, Dhruv Rastogi, Zihao Chen, Mengshi Zhang, Hongseok Namkoong·· 3 小时前AI 评分38

MBABench-2.0:评估 AI 智能体从零构建财务表格的能力

MBABench-2.0: Evaluating AI Agents on Constructing Financial Spreadsheets Beyond Simple Verifiability

AI 导读

研究者提出 MBABench-2.0,包含 101 个从零构建表格的任务,最难任务估计需 3 年以上经验的建模者耗时 33 小时。该基准用覆盖 12 类的 129 条标准衡量可读性、可维护性和可审计性等质量维度,在 8 个模型、4 种 harness 的 20 多个智能体上评测,表现最好的智能体通过率仅 16%。

来源:arXiv cs.SE · arxiv.org