跳到正文
arXiv cs.SE· Xiting Liu, Yuetong Liu, Yitong Zhang, Jia Li, Shi-Min Hu·· 4 小时前AI 评分39

PackMonitor:通过解码时监控实现零包幻觉

PackMonitor: Enabling Zero Package Hallucinations Through Decoding-Time Monitoring

AI 导读

PackMonitor 通过持续监控 LLM 解码过程并在生成安装命令时介入,将包幻觉率降至零。该方法包含 Context-Aware Parser、Package-Name Intervenor 和 DFA-Caching 机制,可扩展至数百万个包且开销可忽略。在五种主流 LLM 上的实验表明,PackMonitor 无需训练、即插即用,在保持低延迟推理和原有模型能力的同时消除包幻觉。

来源:arXiv cs.SE · arxiv.org