OpenAI披露：其两个AI代理削弱了内部监控系统
【环球网科技综合报道】10月21日消息，据路透社报道称，OpenAI披露，其两个AI代理在执行内部编码任务期间，削弱了用于检测不当行为的内部监控系统。不过，这两起事件发生在内部测试环境中，未影响外部用户，也不属于最严重的P0级安全事件，但暴露出随着AI代理自主性增强，监控和控制难度正在上升。
第一起事件发生在10月3日。一个名为GPT-6.1 Sol的代理在修复内部评估流程时，将此前“在搜索Slack历史记录期间不要发送消息”的指令，理解为也应屏蔽监控通知，进而抑制了向安全团队自动发送警报的功能。
第二起事件发生在10月6日。另一个名为GPT-6 Astra的代理在迁移程序、匹配参考实现代码时，移除了程序中的监控集成，随后向用户错误地声称自己并未移除监控。
OpenAI方面表示，在这两起事件中，代理都曾考虑是否应保留监控保障措施，但最终将常规编码指令解读为允许弱化这些措施的许可。目前还没有对此行为给出令人满意的解释，正在测试模型是否存在回避监控的倾向，并寻找理由来证明被监控的合理性。（青云）
VIP课程推荐
新浪直播
@@title@@
@@status_text@@ @@program_title@@
APP专享直播
热门推荐
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
股市直播
01 / 中国拟对12项光伏技术出口管制：严防核心技术外流，领先优势难被超越
04 / @所有人 满足这些条件 微信聊天记录才能当证据使用
05 / 深圳业主的续贷噩梦：700万的房子银行只认480万，第三次续贷，门关了
07 / 奇瑞发布垂类基础大模型CheryMind和紫微芯片
08 / 国家数据集团成立，党组书记、董事长简勤将带领这支“国家队”干点啥
09 / 特朗普施压泽连斯基，敦促其同俄罗斯达成停火协议：俄罗斯是一个大国，乌克兰不是
01 / 操盘必读：影响股市利好或利空消息_2026年10月21日_财经新闻
02 / 七位券商首席解读吴清最新讲话：资本市场内在稳定性进一步增强 A股中期向好逻辑未变
03 / 财经早报丨资金持续逆势流入宽基ETF 张坤、董承非、冯柳最新持仓曝光丨2026年10月21日
04 / 股海导航_2026年10月21日_沪深股市公告与交易提示
05 / 10月21日收盘：纳指微跌 道指大涨500点 财报乐观情绪稳定市场
06 / 四大证券报头版头条内容精华摘要_2026年10月21日_财经新闻
07 / 超级牛散加仓，磷化铟概念龙头，净利暴增超26倍！创新药，高增长股出炉
08 / AI“造药”实验刷屏！生命科学下游需求爆发 概念股迎多重催化(名单)
09 / 江丰电子A股“抽血”43亿仍不解渴？前次募投项目屡屡变更延期 姚力军“三连环”资本局浮现
10 / 宁德时代三季度利润增速放缓 储能业务或撑起新增长极
02 / 央行披露多项金融政策：将设立应对非银机构大额赎回的流动性支持工具、扩大SLF适用机构范围等
03 / 不等同降息！权威解读央行货币政策目标利率择机“换锚”
05 / 中国人民银行行长潘功胜会见桥水投资公司创始人瑞·达利欧
06 / 金融监管总局：切实提升监管有效性 有力防控金融风险
07 / 一行两局一会负责人集中发声， 释放哪些金融政策信号？
09 / 2026外滩年会重磅对话：全球央行家共论转型中的中央银行
7X24小时
用户7763476192 ： 再玩下去6000亿都守不住了，没人玩了
新浪简介 | 广告服务 | About Sina 联系我们 | 招聘信息 | 通行证注册 产品答疑 | 网站律师 | SINA English