Hugging Face Daily Papers·· 2 天前AI 评分31
RuleTrek:复杂场景下智能体规则推理基准发布
RuleTrek: Benchmarking Agentic Rule Reasoning in Complex Scenarios
AI 导读
多领域基准 RuleTrek 用于评估复杂场景下的智能体规则推理,通过规则图构建流程生成并增量组合子场景,考察规则识别(RI)、规则推导(RD)和端到端规则推理(E2E)三项能力。在 11 个前沿 LLM 上,最高 RI 与 RD 得分仅为 62.47% 和 60.43%,E2E 得分在 26.97% 至 55.29% 之间。代码与数据集已公开。
来源:Hugging Face Daily Papers · huggingface.co