AGI Pulse
动态OpenAI · OpenAI

OpenAI 更新 Model Spec:围绕五项价值(忠实意图、减少伤害、诚实透明、人的能动性、关切)重组行为规范

阅读 3

发布日期
2026-10-30
类型
动态
相关机构
OpenAI
信息来源
OpenAI

这件事意味着什么

【要点】

OpenAI 于 UTC 2026-10-29 17:00(北京时间 10 月 30 日 01:00)发布博文《An updated Model Spec for more capable and beneficial AI》,对公开的 Model Spec 做结构性改版:把原先分散的行为原则收拢到五项底层价值——忠实于人类意图(faithfulness to human intent)、减少伤害(harm minimization)、诚实与透明(honesty and transparency)、促进人的能动性(human agency)、关切(care)。

改版要点:新增「仔细考虑上下文」「支持人的能动性」「遵循相关社会规范」等默认原则,扩展副作用控制与沟通;退役大部分详细文风/风格指引,保留「客观对待问题」等较强默认;指令冲突仍走更新后的 chain of command;文中把模型称呼从 “the assistant” 改为 “GPT”。OpenAI 明确写:Spec 描述的是目标行为,现有模型尚未完全体现;公司正在探索让模型「理解原则为何重要」的新训练方法,后续再公布结果。同日另发《How we detect frontier model misalignment》(UTC 09:00),属配套对齐研究,本条以 Spec 改版为主。

【可核验】

OpenAI 博文:https://openai.com/index/updated-model-spec

Model Spec 正文:https://model-spec.openai.com/

同日误对齐检测:https://openai.com/index/how-we-detect-frontier-model-misalignment

Techmeme 已收录该 Spec 更新头条。

【我们的判断】

一、背景:Model Spec 是 OpenAI 对外可核对的「想让模型怎么表现」说明书,地位接近 Anthropic 的 Constitution / Claude 行为规范,以及微软 AI 的 MAI Code of Conduct(站内曾跟 e/777)。这次不是换模型,而是把价值对齐从散点原则收成五根柱子,并承认当前产品还没完全跟上——对部署侧采购与安全评测,可核对的行为目标本身就是增量信息。

二、对照:Anthropic 路线更偏宪法式禁区与宪法训练;微软 MAI 更偏「不抗拒关停、不自行扩权」等产品红线;OpenAI 这次强调 assistance-games / 忠实意图,并把风格细则下放给用户与开发者偏好。三者都在把「对齐」从研究术语写成可引用的公开规范,但约束硬度与可执行测试集仍不透明。

三、影响:短期对 GPT-6.x / Codex / dots 的体感未必立刻变(官方已说未完全体现);中期会成为外部评测、企业合规问卷与监管对话的引用锚点,也可能抬高对思维链/副作用可见性的采购要求。需盯后续训练方法论文与 Spec diff 是否落到可测行为,而非停在价值叙事。

原文 →

继续了解相关进展

本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策