arXiv cs.SE· Zhixiang Zhang, Zesen Liu, Wai Ip Lai, Hongxu chen, Dongdong She·· 2 小时前AI 评分58
论文揭示智能体框架演化中的组合式安全失效并提出运行时监控
Compositional Safety Failures in Harness Evolution: Identification and Runtime Monitoring
AI 导读
arXiv 论文研究自演化智能体框架（harness evolution）中的组合式安全失效，即在三个安全相关基准上发现 43 组两两组合和 18 组不可约的三方组合失效，这些组件更新单独看都安全且保持效用。
来源：arXiv cs.SE · arxiv.org