AgentSafeEvo：智能体安全对抗协同演化框架

论文作者发布 AgentSafeEvo，一个用于提升 LLM 智能体工具调用安全性的对抗协同演化强化学习框架。其机制是攻击者与防御者博弈：攻击者学习构造对抗性智能体任务，以暴露防御者在工具使用中的弱点；防御者则学习在这些攻击下安全完成任务。 该框架面向跨多种任务和攻击类型的智能体安全场景，目前信息来自论文本身，尚无独立验证其实际防护效果的结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。