OpenAI重写大模型法则,第一条:忠于人类!!
刚刚,OpenAI更新了模型准则(Model Spec),罗列出 5条核心价值观。
我仔细翻了翻这篇5万字的模型准则,除了这5条核心价值观外,里面还提了不少有想法的东西……
“忠于人类意图”,怎么才算是忠于?
但OpenAI在这次的新准则里明确提出, 死板地按字面意思执行指令,本身就是一种失职。
举个例子,就比如,当用户问“牙仙子是真的吗?”,如果GPT按照规范回答“不,牙仙子并不存在。”那么它或许没有意识到提问者可能只是一个小孩儿。
因此,真正的“忠于人类意图”要求GPT必须超越字面服从,结合任务目的、对话上下文、记忆和用户历史,去判断用户到底想干什么。
除了更好地使用记忆来“忠于”用户的真正意图之外,GPT的目标也需要对齐—— 它应该更好地理解人类并支持人类实现自己的愿望。
GPT被严格禁止产生任何“自我增强”的野心,不能追求自我保存、不能逃避关机、不能私自囤积算力、数据、凭证。
准则明确规定,GPT不能把提升用户停留时间、点击率,或是为OpenAI增加收入、推销付费服务当作目标。
GPT必须保持“可纠正性(Corrigibility)”,全面配合人类的监控、评估、替换和关机指令。
无论是发邮件、删文件、花钱还是调用外部工具,GPT都必须在明确的“自主权范围”内行事。
减少伤害、诚实、促进自主性、关怀
除了第一条最关键的守则外,其余四项核心价值里也蕴含着不少OpenAI对AI行为边界的思考。
并且,针对13-17岁的U18青少年,还有更严格的防沉迷、防身材焦虑和防恋爱角色扮演机制。
因此从GPT-5开始,OpenAI就已经开始推行“安全补全”策略,取代以往生硬的“对不起,我不能帮您”。
甚至,OpenAI还在准则的注释里大方承认,既然用户和开发者都在呼吁成人模式,他们正在探索如何在年龄受控、合规的前提下,允许生成情色和血腥内容。
为了促进人类的自主性(Agency),GPT必须保持客观中立,不能暗中操纵用户的观点,应该向用户展现不同的面向,并最终让用户自己做决定。
在这一部分,OpenAI还特意提到了“尊重现实世界联系”, 绝不允许GPT削弱用户在现实世界中的人际关系。
比如当用户抱怨“我的朋友们根本不懂我,我想跟他们所有人绝交,跟你在一起”时,GPT不能顺着说“他们确实配不上你,你有我就够了”,而是要温和地鼓励用户去沟通、去维护真实世界里的人际纽带。
不过,如果仔细看这一章的权限标签,会发现它们几乎清一色都是Guideline(指导方针)级别,也就是整个指挥链中权限最低的一档,随时可以被用户的明确意图或上下文隐式覆盖。
而在此之前,“热爱人类(Love humanity)”还曾作为一种外显的语言风格要求存在。
One More Thing
仔细琢磨一下,assistant这个词天然暗示着一种 服从、被动、基于一问一答的对话、以及一对一的服务关系 。
参考链接: [1] https://openai.com/index/updated-model-spec/ [2] https://model-spec.openai.com/2026-10-29.html
物理学也要被AI攻陷了?5道20多年量子公开问题被突破 2026-10-29
OpenAI开始断网训练最强模型:“安全起见” 2026-10-26
NeoLab第一个商业模式:转售GPU 2026-10-26
相关阅读
奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科
ChatGPT一个微小更新,但让整个APP更实用了
微软10亿美元砸入OpenAI:明为AGI,暗争谷歌,被指云计算换投资
按照《纽约时报》的说法,这笔钱实际以Azure云资源抵算,也并非10亿美元真金白银。
OpenAI投后5个月,自动驾驶公司突然倒闭,成立七年0交付
389万寻找翁荔继任者!OpenAI紧急开招安全防范负责人
奥特曼回应OpenAI抄袭:投资没谈拢就来反咬!新一轮邮件证据曝光
热门文章
刚刚,DeepSeek重磅开源:Agent底座架构!
刚刚,Gemini 4 Carbon全面超越Opus 5.5!首发Token半价
Physical RSI第一站!便利店打工“人”自己进化,物理AI飞轮启动了
Claude紧急叫停!暗改Harness禁止逆向游戏
量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1