arXiv cs.SE· Balkrishna Giri, Md Toufique Hasan, Jussi Rasku, Muhammad Waseem, Pekka Abrahamsson·· 1 小时前AI 评分40
Trustworthy RAG：检测生成式 AI 虚假信息与知识投毒的评估智能体
Trustworthy RAG: An Evaluation Agent for Detecting Misinformation and Knowledge Poisoning in Generative AI Systems
AI 导读
论文提出一个 RAG 中间件式评估智能体，结合 NLI 事实核查、五信号投毒检测器和 Trust Index，在生成前判断检索上下文是否被污染。在 TruthfulQA 上使用 Llama 3.3 70B 时达到 91% 准确率和 100% 精确率，对指令注入的召回率为 100%，但实体替换等原位编辑仍难检测。
来源：arXiv cs.SE · arxiv.org