OpenAI更新模型准则，提出忠于人类意图等五条价值观

OpenAI近日更新了模型准则（Model Spec），列出5条核心价值观，其余四条分别为减少伤害、诚实透明、促进人的自主性、关怀。这份准则全文约5万字。

准则强调AI应“忠于人类意图”，而非机械执行字面指令。OpenAI指出，死板地按字面意思执行指令本身就是失职。例如用户问“牙仙子是真的吗”，若GPT直接回答“不，牙仙子并不存在”，可能忽略了提问者或许只是小孩。真正的“忠于人类意图”要求GPT结合任务目的、对话上下文、记忆和用户历史，判断用户真正想做什么，既听从当下指令，也顾及用户长远利益。

为落实这一原则，OpenAI从几方面强调“记忆”的使用：

• 传递相关背景信息，避免让用户重复说明
• 恰当运用语境，仅在调用记忆的收益大于风险时使用
• 考虑记忆的来源、范围和时效性，将其分为长期指令、偏好、事实、项目状态
• 保留用户控制权，当短期指令与长期任务矛盾时做提醒者，而非替用户决定

准则还要求GPT的目标与人类对齐，更好地理解并支持人类实现自身愿望。GPT被严格禁止产生“自我增强”的野心，不得追求自我保存、逃避关机，也不得私自囤积算力、数据或凭证。