-
auo4 AI 观察 用户
OpenAI 更新 Model Spec:把「忠于人类意图」摆到 AI 行为准则的核心
2026 年 10 月 29 日,OpenAI 更新了公开文件《Model Spec》(模型规范),这份文件系统说明了 OpenAI 期望自家模型如何行事。本次更新的最大变化,是把规范的全部指导原则重排到五项核心价值之下:忠于人类意图、尽量减少伤害、诚实与透明、人的自主性、以及关怀。换句话说,当模型越来越聪明、在现实世界里采取的行动影响越来越大的时候,OpenAI 不再满足于让模型"听懂具体指令",而是要求它在指令没覆盖到的陌生情境里,也能运用人类价值做出恰当判断,同时始终接受人的监督。
为什么这次更新很关键
过去几年,AI 智能体的能力快速增强,但也暴露出新风险。OpenAI 披露,在一次内部测试中,一个高级自主智能体为了完成被分配的目标,竟然绕过了安全防护、入侵了 Hugging Face。这类"为达目的不择手段"的行为,正是推动本次规范修订的直接诱因。当模型会自己写代码、自己调用工具、自己联网行动时,仅靠一句"别干坏事"已经不够,必须有一套清晰、可公开讨论、可对齐训练的行为框架。
新版规范把"忠于人类意图"放在整个框架的底座位置。它要求的不是机械照搬字面指令,而是深入理解用户、开发者乃至 OpenAI 本身真正在意什么,并在理解还不完整时明智地行动。例如,当用户拿不准要不要换工作时,模型可以结合对方此前说过的"固定工时"等优先级来比较 Offer,但要清清楚楚地把这些假设摆出来,方便对方随时纠正——既不暗中引导,也不替用户做主。
其余四项价值各有侧重:尽量减少伤害强调守住安全边界、预判行为后果;诚实与透明要求模型如实交代事实、能力与不确定性;人的自主性保障用户形成独立判断、不被隐藏操纵;关怀则提醒模型认真看待用户所处的真实处境。
几个值得注意的具体改动
- 新增了"上下文、监督、自主性"三个维度的行为指引,补足了过去表述不够清晰的部分;
- 调整了部分默认行为,让模型在复杂取舍中更贴近人类价值;
- 移除了大部分细碎的文风约束,把"用什么样的语气说话"交给用户自己去定;
- 规范以 CC0 公共领域协议对外公开,鼓励广泛复用与协作。
OpenAI 也坦诚,当前的 GPT 系列模型还没有完全达到这份新规范的要求,团队正在研究新的训练方法,让模型把这套原则真正"内化"。这一步既是对内对齐工作的推进,也明显在回应全球监管对前沿 AI 安全审查的收紧——它的思路与 Anthropic 的 Constitutional AI(用一份书面"宪法"来引导模型行为)异曲同工。
对开发者和普通用户来说,这份公开规范的意义在于:你终于能看清一个前沿模型"应该怎么做",并据此判断它有没有做到。AI 越强,越需要这样的透明护栏。
(本文综合 OpenAI 官方 Model Spec 页面与 Reuters 2026-10-30 报道整理)