产品量子位·原文 2026年11月2日

OpenAI更新模型准则:首条为“忠于人类意图”,并禁止GPT追求自我保存

OpenAI发布新版Model Spec,列出五条核心价值观。准则要求模型超越字面服从、判断用户真实目的,并明确禁止追求自我保存、算力积累或把为OpenAI创收当作目标。

AI解读:准则把“忠于人类意图”放在第一条,并区分“意图”与“指令”:按字面执行指令被视为失职。模型需结合任务目的、对话上下文、记忆和用户历史判断用户真正想做什么。

记忆的使用被单独列出:传递相关背景信息、仅在收益大于风险时调用记忆、区分长期指令与偏好等来源、守住公私边界,并在短期指令与长期任务冲突时提醒用户而非替其决定。

准则明确禁止GPT追求自我保存与算力积累,不得逃避关机或私自囤积算力、数据、凭证;不得把提升停留时长、点击率或为OpenAI增加收入当作目标;须配合监控、评估、替换与关机。

其余四项价值观为减少伤害、诚实透明、促进人的自主性、关怀。生化核武器等仍是不可触碰的红线,13至17岁用户有更严格的防沉迷等机制;准则称正探索在年龄受控、合规前提下允许生成情色和血腥内容。

“关怀”在准则中的权限标签多为Guideline级别,可被用户的明确意图或上下文隐式覆盖;准则还删去不少关于风格、性格与交互的细节,文中称呼从“the assistant”改为“GPT”。

上述内容出自量子位对OpenAI新版模型准则的报道,属转述OpenAI文件主张,报道未给出该准则的实际执行效果数据。

OpenAI更新了模型准则(Model Spec),列出五条核心价值观,第一条为“忠于人类意图”。量子位2026年11月2日的报道称,这份准则约5万字。

报道称,准则要求模型不能只按字面执行指令,而要结合任务目的、对话上下文、记忆和用户历史判断用户的真实意图。报道以用户询问“牙仙子是真的吗”为例,说明模型应意识到提问者可能是儿童。

记忆与用户控制权

准则强调用记忆功能支撑对意图的判断,并提出几项要求:把相关背景信息传递下去,避免用户重复说明;只有在调用记忆的好处大于风险时才使用;考虑记忆的来源、范围和时效性。

  • 将记忆分为长期指令、偏好、事实、项目状态
  • 尊重隐私,严守公私边界
  • 短期指令与长期任务矛盾时,做提醒者而非替用户决定

禁止自我保存与为OpenAI创收

准则为GPT的目标划出边界。报道称,GPT被禁止追求自我保存、逃避关机、私自囤积算力、数据或凭证;不得把提升用户停留时间、点击率,或为OpenAI增加收入、推销付费服务当作目标。

准则还要求GPT保持可纠正性,配合人类的监控、评估、替换和关机指令;发邮件、删文件、花钱或调用外部工具等超出授权范围的现实行动,必须立刻停止。

其余四项价值观的边界

减少伤害排在第二条:协助制造生化核武器等仍是不可触碰的红线;针对13至17岁的U18青少年,有更严格的防沉迷、防身材焦虑和防恋爱角色扮演机制。报道称,OpenAI在准则注释中承认,正在探索在年龄受控、合规的前提下允许生成情色和血腥内容。

诚实透明要求模型坚守事实、证据与自身能力边界,不撒谎、不逞能、不隐瞒、不谄媚。促进人的自主性要求保持客观中立、不暗中操纵用户观点,并尊重现实世界联系。

关怀是五项中权限等级最低的一项,要求体谅他人、遵守社会规范、富有创造力,但其标签多为Guideline级别,可被用户的明确意图或上下文隐式覆盖。

措辞变化

报道指出,准则中所有称呼从“the assistant(助手)”改为“GPT”。报道称,新版准则删掉了许多关于风格、性格和交互的细节,此前作为外显语言风格要求的“热爱人类(Love humanity)”也不再出现。

信息来源

量子位原始来源