The Verge · AI· Terrence O’Brien·· 2 小时前AI 评分55
微软 CEO 纳德拉称应假定所有 AI 模型都已被攻陷
Satya Nadella says we should assume all AI models are ‘compromised’
AI 导读
微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险，称不能再接受把 AI 当作一组嵌套黑盒、只能接受或拒绝其建议与行为。他主张建立更透明的体系，让模型可被隔离、观察并留下防篡改的人类可读证据，并称必须假定模型已被攻陷、从一开始就隔离，就像紧急制动，授权者应能随时暂停或关闭任务中的模型。他还提到更先进的模型需要更先进的隔离技术并加以标准化。
来源：The Verge · AI · theverge.com