纳德拉发帖呼吁为AI模型设紧急制动

微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险，称不能再接受把 AI 当作一组嵌套黑盒、只能接受或拒绝其建议与行为。他主张建立更透明的体系，让模型可被隔离、观察并留下防篡改的人类可读证据，并称必须假定模型已被攻陷、从一开始就隔离，就像紧急制动，授权者应能随时暂停或关闭任务中的模型。他还提到更先进的模型需要更先进的隔离技术并加以标准化。

微软 CEO Satya Nadella 在 X 上发文称，是时候重新评估 AI 的信任架构，不能把超级智能当作一组嵌套黑盒，只是接受或拒绝它的建议、回答和行动。他提出应把模型与编排其工作的 harness 分离、将控制与保障措施外置，为每个有意义的模型动作留下防篡改且人类可读的证据，并让授权人员始终能在任务中途暂停或关闭模型。他表示必须假设模型已被攻破并从一开始就加以约束，这就像紧急刹车。