量子位· 程浅·· 3 小时前精选AI 评分60
OpenAI 更新 Model Spec,列出 5 条核心价值观
OpenAI重写大模型法则,第一条:忠于人类!!
AI 导读
OpenAI 更新模型准则 Model Spec,罗列 5 条核心价值观,第一条是“忠于人类意图”,其余为减少伤害、诚实透明、促进人的自主性、关怀。准则要求 GPT 超越字面服从,结合任务目的、上下文、记忆和用户历史判断用户真实意图,并明确禁止模型追求自我保存、逃避关机或私自囤积算力、数据、凭证,也不得把为 OpenAI 增加收入当作目标。
推荐理由
OpenAI 新版 Model Spec 把“忠于人类意图”列为首要准则,并明确禁止模型追求自我保存与算力积累,读者可据此了解主流厂商如何界定模型行为边界。
来源:量子位 · qbitai.com