跳到正文

技术方向

安全对齐 最新动态

与 Agent 和编码工具直接相关的安全议题:prompt injection、Agent 权限与沙箱、编码 Agent 的供应链风险,以及模型行为与对齐研究的进展。

83 条精选近 30 天 81 条共收录 299 条

更新

精选归档 · 第 5 页

9月24日周四第 81–83 条
  1. Google DeepMind62

    Google DeepMind 为 Private AI Compute 引入安全服务端持久记忆

    Google Private AI Compute 团队公布为 Private AI Compute 平台引入私有服务端记忆的技术方案,让云端 AI 在跨设备场景下持久保留上下文,同时维持端侧级隐私标准。

    推荐理由:Google 公开了 Private AI Compute 的持久化服务端记忆方案,读者可了解云端 AI 如何在保留跨设备上下文的同时维持端侧级隐私。

9月16日周三
  1. Google Developers Blog60

    Gemini Enterprise Agent Platform 上线 Agent Anomaly Detection 私测

    Google 在 Gemini Enterprise Agent Platform 上为 Agent Anomaly Detection 开启 Private Preview,用推理层审计智能体的推理轨迹、工具调用和执行流程,标记行为异常、可疑意图与策略违规。

    推荐理由:原文给出分层检测流程与一个抓取型异常实例,可据此判断智能体行为审计在生产中的落地方式。

8月5日周三
  1. Zed Blog62

    Zed 为智能体面板加入默认沙箱

    Zed 在 1.14 版本起为智能体面板的终端和 fetch 工具默认启用沙箱,由操作系统强制执行,默认禁止在项目目录外写入、写入 .git 以及发起网络请求,智能体需要时可申请临时提权并说明理由。

    推荐理由:Zed 官方说明智能体沙箱的默认规则、权限升级流程与实现方式,并给出沙箱边界之外的攻击面清单。