跳到正文
arXiv cs.SE· Arslan Bisharat, Mujtaba Nazari, Khushboo Bhadauria, Brian Ortiz, Eric Spencer, Beatriz Santos, TaiNing Wang, George K. Thiruvathukal, Konstantin Laufer, Mohammed Abuhamad·· 2 小时前AI 评分34

ALIAS:评估 LLM 编写的 TLA+ 规范中的性能与记忆化

ALIAS: Evaluating Performance and Memorization in LLM-Written TLA+ Specifications

AI 导读

研究团队用一致标识符重命名(CIR)方法测试 LLM 编写 TLA+ 规范时的记忆化问题,在 111 个 TLA+-Bench 任务上,重命名使 Claude Opus 4.8 的正确率从 28% 降至 18%,GPT-5 从 9% 降至 7%。

来源:arXiv cs.SE · arxiv.org