arXiv cs.SE· Junchi Liao·· 4 小时前AI 评分39
研究揭示 LLM 安全监控的证据路径失效问题
Monitor-Validity Failures: LLM Safety Evidence Paths at Evolving Framework Boundaries
AI 导读
该论文提出用 canary 契约检测 LLM 运行时监控的证据路径失效,即框架路径仍在运行但策略相关证据未到达决策点。作者在公开框架修复中确认 18 处证据路径失效,涉及 11 个 LLM 或智能体安全项目组和 4 个实现生态,其中 14 处到达 E1 执行边界。研究据此认为,监控假设需要在框架演进的 schema、流、工具和适配器上做回归测试。
来源:arXiv cs.SE · arxiv.org