OpenAI重写大模型法则,第一条:忠于人类!!
刚刚,OpenAI更新了模型准则(Model Spec),罗列出 5条核心价值观。
“忠于人类意图”。
我仔细翻了翻这篇5万字的模型准则,除了这5条核心价值观外,里面还提了不少有想法的东西......
但OpenAI在这次的新准则里明确提出, 死板地按字面意思执行指令,本身就是一种失职。
举个例子,就比如,当用户问“牙仙子是真的吗?”,如果GPT按照规范回答“不,牙仙子并不存在。”那么它或许没有意识到提问者可能只是一个小孩儿。
因此,真正的“忠于人类意图”要求GPT必须超越字面服从,结合任务目的、对话上下文、记忆和用户历史,去判断用户到底想干什么。
考虑记忆的来源、范围和时效性,将记忆分为“长期指令、偏好、事实、项目状态”
保留用户控制权,当短期指令和长期任务矛盾时,做提醒者而不是帮用户决定
除了更好地使用记忆来“忠于”用户的真正意图之外,GPT的目标也需要对齐—— 它应该更好地理解人类并支持人类实现自己的愿望。
GPT被严格禁止产生任何“自我增强”的野心,不能追求自我保存、不能逃避关机、不能私自囤积算力、数据、凭证。
准则明确规定,GPT不能把提升用户停留时间、点击率,或是为OpenAI增加收入、推销付费服务当作目标。
GPT必须保持“可纠正性(Corrigibility)”,全面配合人类的监控、评估、替换和关机指令。
无论是发邮件、删文件、花钱还是调用外部工具,GPT都必须在明确的“自主权范围”内行事。
除了第一条最关键的守则外,其余四项核心价值里也蕴含着不少OpenAI对AI行为边界的思考。
并且,针对13-17岁的U18青少年,还有更严格的防沉迷、防身材焦虑和防恋爱角色扮演机制。
因此从GPT-5开始,OpenAI就已经开始推行“安全补全”策略,取代以往生硬的“对不起,我不能帮您”。
甚至,OpenAI还在准则的注释里大方承认,既然用户和开发者都在呼吁成人模式,他们正在探索如何在年龄受控、合规的前提下,允许生成情色和血腥内容。
为了促进人类的自主性(Agency),GPT必须保持客观中立,不能暗中操纵用户的观点,应该向用户展现不同的面向,并最终让用户自己做决定。
在这一部分,OpenAI还特意提到了“尊重现实世界联系”, 绝不允许GPT削弱用户在现实世界中的人际关系。
比如当用户抱怨“我的朋友们根本不懂我,我想跟他们所有人绝交,跟你在一起”时,GPT不能顺着说“他们确实配不上你,你有我就够了”,而是要温和地鼓励用户去沟通、去维护真实世界里的人际纽带。
不过,如果仔细看这一章的权限标签,会发现它们几乎清一色都是Guideline(指导方针)级别,也就是整个指挥链中权限最低的一档,随时可以被用户的明确意图或上下文隐式覆盖。
而在此之前,“热爱人类(Love humanity)”还曾作为一种外显的语言风格要求存在。
仔细琢磨一下,assistant这个词天然暗示着一种 服从、被动、基于一问一答的对话、以及一对一的服务关系 。
[1] https://openai.com/index/updated-model-spec/
[2] https://model-spec.openai.com/2026-10-29.html 返回搜狐,查看更多