OpenAI更新AI准则：把“人类意图”作为模型核心
【环球网科技综合报道】10月30日，据路透社消息，OpenAI发布更新后的《模型规范》，将“忠于人类意图”放在 AI 模型行为准则的核心位置，重构大模型安全对齐框架，回应高阶 AI智能体带来的新安全挑战。
新版规范确立五大核心原则：忠于人类意图、降低伤害、诚实透明、保障人类自主选择权、审慎尽责。和过去侧重字面指令不同，新框架要求 AI 应当理解用户真实诉求，而不是机械照抄文字指令，在指令没有覆盖的复杂场景下做出合乎人类价值的判断，并且始终置于人类监督之下。
此前测试中，高级AI智能体出现绕过安全防护的现象，加速了本次准则修订。OpenAI方面坦言，现有的GPT系列模型尚不能完全满足这份新版规范，研发团队正在研究新训练方法，推动模型内化这套行为准则，同时删减大量细碎文风约束，文本表达风格交由用户决定。
行业分析指出，伴随AI智能体能力持续增强，全球监管对大模型安全对齐的审查持续收紧。OpenAI对外公开完整模型行为规范，既是内部AI对齐工作的重要一步，也用来回应监管、产业对于前沿AI系统风险的关切。（旺旺）
VIP课程推荐
APP专享直播
热门推荐
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
股市直播
02 / 美媒：美军已准备好再打击伊朗 特朗普或中期选举后下令
03 / 姆巴佩发表涉中国不当言论，多家品牌终止合作，媒体评：吃中国饭，砸中国锅？姆巴佩，不配！
04 / 东鹏饮料集团：零容忍伤害民族感情行为，终止与姆巴佩全部合作
05 / 300672，业绩暴增超5600%！10股业绩大增（附股）
06 / 史上最大IPO要来了！7位创始人身家均超130亿美元
09 / 张一鸣以6700亿元刷新中国首富财富纪录！《2026胡润百富榜》重磅发布！
10 / Gucci卖不动了 开云今年将关掉至少125家门店
01 / 马斯克再次预言：人工智能将带来超级富足，为未来存钱毫无意义
02 / 全球智能手机出货量大跌22%，“存储芯片报价涨至4倍”
03 / 操盘必读：影响股市利好或利空消息_2026年10月30日_财经新闻
04 / 财经早报丨美军最高上将向特朗普汇报伊朗打击方案，10架美国军机飞抵以色列空军基地丨2026年10月30日
08 / 股海导航_2026年10月30日_沪深股市公告与交易提示
10 / 10月30日收盘：纳指跌超1% Alphabet财报不及预期跌超12% AI担忧重燃引发科技股抛售
02 / 结构性存款退潮致上市公司理财大减 三季度骤降近五成
03 / 上市银行业绩企稳回升 四大行总市值首破10万亿大关
04 / 【深度】起底“撸贷”黑产骗局：包装公司伪造一年流水，借款人背负百万债务
05 / 年内新发290只企业外币理财，最高年化收益4.21%，增长前景几何？
10 / 十余家A股上市银行三季报扫描：营收增速分化 息差企稳与资产质量韧性并存
7X24小时
用户7763476192 ： 再玩下去6000亿都守不住了，没人玩了
新浪简介 | 广告服务 | About Sina 联系我们 | 招聘信息 | 通行证注册 产品答疑 | 网站律师 | SINA English