Hugging Face Daily Papers·· 3 天前精选AI 评分52
Agent Mosaic:智能体式 LLM 系统的机密泄露识别研究
Agent Mosaic: Recognizing Confidentiality Leaks in Agentic LLM Systems
AI 导读
论文提出 Agent Mosaic,研究 LLM 智能体从多份机密文档中拼凑出敏感结论的“马赛克式”泄露风险。作者用 30 个网络安全、医疗和军事合成案例,在受控模拟中得到三个 LLM 智能体的 10,800 条最终回答,并在两个开源 harness 的在线智能体上收集 1,440 条回答。
推荐理由
论文用受控实验量化了智能体从多份机密文档拼出敏感结论的泄露率,并显示分类标记与聚合规则只能部分缓解。
来源:Hugging Face Daily Papers · huggingface.co