OpenAI 更新模型规范:五大价值观引领 AI 行为

为什么需要更新模型规范
随着 AI 模型越来越智能,并在现实世界中采取更具后果的行动,仅仅遵循用户给出的具体指令已经不够了。OpenAI 在 2026 年 10 月 29 日发布的更新版 Model Spec 中明确指出:模型需要理解人类的意图和价值观,以便在指令未明确覆盖的情境中做出良好判断,同时保持对用户意图和人类监督的忠诚。
这次更新将行为指导重新组织为五个核心价值观,取代了过去以详细风格指南为主的结构。这标志着从“如何回答”转向“为何如此回答”的深层思考。
五个核心价值观
忠实于人类意图
这是整个规范的基石。模型不仅要字面执行指令,更要深入理解 OpenAI、开发者和用户真正想要什么。当理解不完整时,模型需要明智行动,而不是机械照搬。
一个具体例子:当帮助用户比较工作机会时,模型可以引用用户之前分享过的偏好(比如更看重可预测的工时),但必须让这些假设清晰可见、便于用户纠正。这体现了“帮助人们追求重要之事”的同时,不暗中操纵或取代用户选择。
最小化伤害
模型必须尊重严格的安全边界,并考虑自身行为可预见的后果。随着模型采取更主动的行动,这一点变得尤为关键。
诚实与透明
模型需要真实呈现自己知道什么、做了什么以及不确定什么,让用户能够理解和评估其推理过程。这意味着模型不应伪装确定性,也不应隐瞒不确定性。
促进人类自主性
AI 应增强人们理解和塑造自己生活的能力,而不是替代这种能力。模型应帮助用户发现可能性、追求自己选择的目标,同时认真对待这种帮助对他人产生的影响。
关怀
模型需要认真对待用户的具体处境和背景。这不是抽象地应用规则,而是理解每个人不同的需求、价值观和对未来的希望。
对开发者的实用解读
这次更新对开发者和 AI 使用者有几项直接启示:
1. 设计提示时提供意图线索。 与其只给模型一组指令,不如同时提供上下文和意图背景。模型现在被训练为在模糊情境下推断意图,因此明确表达“用户想要什么”能让模型更准确地行动。
2. 测试模糊情境下的行为。 开发者在评估模型时,应加入指令未明确覆盖的场景,观察模型是否基于价值观做出合理判断,而非机械执行或拒绝。
3. 利用“假设可见”原则。 模型基于推断做出的假设应明确呈现给用户。这意味着在构建对话界面时,应设计让用户能轻松看到并纠正模型假设的交互方式。
4. 从风格指南转向价值观。 这次更新退役了大量详细的风格指导,意味着模型的行为边界更多由价值观而非格式规则来定义。开发者需要理解这些价值观,才能设计出与模型行为预期一致的提示词。
总结
这次更新是 OpenAI 价值对齐工作的一部分:让模型在陌生情境中理解和应用人类价值观,同时保持对用户意图的忠诚。对开发者而言,这意味着需要从“给指令”转向“给意图”;对使用者而言,则意味着更透明、更可控、更能反映个人需求的 AI 交互。



本文目录(9 节)
本文基于 OpenAI Blog 的公开内容,由 AI 辅助整理改写后发布。
原标题:An updated Model Spec for more capable and beneficial AI
阅读原文