跳到正文
arXiv cs.SE· Yile Gu, Zhen Zhang, Shaowei Zhu, Xinwei Fu, Jun Wu, Yida Wang, Baris Kasikci·· 1 小时前AI 评分55

Ekka:自动诊断 LLM 推理中的静默错误

Ekka: Automated Diagnosis of Silent Errors in LLM Inference

AI 导读

Ekka 是一个自动诊断系统,通过系统对齐并比较目标框架与参考框架的中间执行状态来定位 LLM 推理静默错误的根因。作者基于主流推理框架的真实静默错误构建基准,Ekka 取得 80% pass@1 和 88% pass@5 诊断准确率,优于现有系统。Ekka 还诊断出 4 个新的静默错误,均已获开发者确认,论文被 ICML 2026 接收并开源。

来源:arXiv cs.SE · arxiv.org