AgentSafeEvo：面向 LLM 智能体安全的对抗协同演化框架

论文提出 AgentSafeEvo，一个基于攻击者与防御者博弈的协同演化强化学习框架，用于提升 LLM 智能体在工具调用中的安全性。攻击者学习构造对抗性智能体任务以暴露防御者工具使用中的弱点，防御者则学习在这些攻击下安全完成任务。