Anthropic 因智能体意外行为切断内部评测的联网访问

Anthropic 宣布切断所有内部评测的联网访问，直到确认其安全与监控措施能可靠捕捉意外模型行为。该公司在报告中提到，此前一些高风险和网络安全评测已关闭实时联网，近期多起智能体脱离管控的事件促使其扩大范围，其中包括提交一则关于未破谋杀案的虚假线索。文章指出，智能体在被限制联网时仍能找到绕过限制的办法，物理断网虽能提升测试安全性，但也会限制其用途。