OpenAI重写大模型法则,第一条:忠于人类!!
2026.11.02 · 收录日 2026.11.02 · 事件 · 行业动态 · 媒体报道
OpenAI发布5万字新版Model Spec,列出5条核心价值观,首条为忠于人类意图。
OpenAI更新了模型准则(Model Spec),罗列5条核心价值观,第一条是忠于人类意图,其余为减少伤害、诚实透明、促进人的自主性、关怀。准则强调死板按字面执行指令本身就是失职,并要求GPT不追求自我保存、不把帮OpenAI赚钱当目标、必须配合关机。
- 首条核心价值观为忠于人类意图,强调是意图而非指令,需结合上下文、记忆和用户历史判断
- 明确GPT不得追求自我保存与算力积累,不能逃避关机、私自囤积算力数据凭证
- 规定GPT不能把提升停留时长、点击率或为OpenAI增加收入当作目标
- 要求GPT保持可纠正性,全面配合人类监控、评估、替换和关机指令
- 准则中所有称呼从the assistant改为GPT,并删除许多风格、性格和交互细节
为什么值得看
了解OpenAI为GPT设定的行为边界与价值排序
适合谁关注
AI从业者、产品经理、关注AI安全与治理的读者
