TechCrunch · AI· Anthony Ha·· 3 小时前AI 评分38
微软 CEO 纳德拉称 AI 模型需要紧急刹车
Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
AI 导读
微软 CEO Satya Nadella 在 X 上发文称，是时候重新评估 AI 的信任架构，不能把超级智能当作一组嵌套黑盒，只是接受或拒绝它的建议、回答和行动。他提出应把模型与编排其工作的 harness 分离、将控制与保障措施外置，为每个有意义的模型动作留下防篡改且人类可读的证据，并让授权人员始终能在任务中途暂停或关闭模型。他表示必须假设模型已被攻破并从一开始就加以约束，这就像紧急刹车。
来源：TechCrunch · AI · techcrunch.com