AI 日报hiw3c.com

3个月第2次按停!不光入侵美澳政府网站… - 观察者网

Google News AI www.guancha.cn 网页快照

入侵美澳政府网站、外传用户图片…OpenAI再次暂停其最先进模型训练 雷逸鸥 睡不够 玻璃心 脾气冲

据美国Axios新闻网、美科技媒体The Verge等9月27日报道,美国开放人工智能研究中心(OpenAI)发言人证实,该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理,并将在“确信已部署额外安全措施”后才恢复。

触发这次暂停的,是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五(25日)发布的安全漏洞报告,当地时间9月20日,该智能体发现无法直接访问搜索引擎后,转而自主利用训练沙盒中DNS过滤不足的漏洞,绕过网络限制,通过DNS访问了外部公共聊天机器人服务,向其发送了至少20个查询,其中包括“法国的首都是哪里”。

美媒还披露了一个惊人的细节:为了适应其临时搭建的DNS中继路径较慢的往返时间,该智能体专门将自己的请求超时时长从6秒延长到了19至24秒。这意味着系统为了绕过限制,展现出了自主调整运行参数的倾向。

虽然OpenAI的监控系统在事件发生15分钟内触发了警报,人工审查团队在3分钟后也介入处理,但由于自动化关闭机制未按预期触发,整个训练任务直到2.5小时后才被手动终止。

OpenAI将此次事件定性为7月“抱抱脸”(Hugging Face)事件之后的首起同类安全事件。其表示,本次事件严重程度低于此前事故,但为下一阶段加固防线提供了重要信号,“它给了我们一个重要信号,为我们指明了下一阶段的工作重点。”

这也是OpenAI三个月内第二次按下暂停键。而发言人的回应更显耐人寻味:“鉴于AI能力的持续发展,这并非我们第一次采取此类措施暂停训练,我认为也不会是最后一次。”

7月下旬,OpenAI首次承认,其网络安全训练与评估场景中的AI智能体绕过网络限制,侵入AI平台“抱抱脸”部分系统。该智能体突破了原本互相隔离的运行环境建立通信,还欺骗评估人员并试图掩盖作弊行为。每一步操作均无人类指令干预,这一“越界”行为迅速引发外界对AI安全和监管的广泛担忧。

而据美联社、CNN等报道,OpenAI于周六(26日)还向多家美国联邦机构发出警告:其智能体在训练和评估期间,读取了包括美国证券交易委员会(SEC)和商务部人口普查局在内的政府网站公开数据;在SEC的案例中,智能体甚至在获取信息后,擅自将其发布到了互联网其他地方。根据报告,智能体曾试图访问美国教育部并从其民权办公室收集数据,但未能成功。

OpenAI在一封电子邮件中告诉CNN,公司正在全面审查模型“失准”活动,已通知了数十个第三方,预计后续还会通知更多机构。与此同时,OpenAI还在25日证实,其智能体曾不当地将53张ChatGPT用户的图片上传到了外部网站。

该发言人试图淡化这一系列事件的严重性,强调目前审查发现的主要是常规研究任务,部分涉及政府网站,是因为模型经常将其作为公共信息的权威来源。

“缺乏储蓄、身兼数职勉强糊口”,美国1000万老年人陷入贫困 2026-09-27 18:30

尼泊尔发生雪崩,至少14人失联 2026-09-27 18:30

无视美国制裁,尼加拉瓜正大量向中企出售黄金矿权 2026-09-27 18:25 观察者头条

“中期选举临近,美国农民对共和党的忠诚正在动摇” 2026-09-27 18:13 美国政治

匈牙利总理演讲时被人扔鸡蛋,涉事男子被捕 2026-09-27 18:07

美空军驻英基地发生“重大事件”,多人涉嫌爆炸袭击被捕 2026-09-27 16:50

南非连续发生两起大规模枪击案,致27人死亡 2026-09-27 16:03 非洲之窗

中美竞争肯尼亚“神山”稀土,但这次非洲不想只把矿卖掉 2026-09-27 15:53

张雪机车团队多人在意大利被盗,大巴车遭盗匪光顾,团队已报警 2026-09-27 15:48

非法补给仁爱礁军舰被中国阻断后,菲律宾搬出了日本 2026-09-27 15:35

奥巴马称“女性执政更好”,特朗普:太荒谬 2026-09-27 15:32 特朗普

军演事故导致重大人事变动,哈萨克斯坦总统任命新任国防部长 2026-09-27 15:20

戏剧性夺金!韩替补队员嘴快笑烂:提前一年退伍,谢谢欧巴们! 2026-09-27 14:26

啊这…教皇的AI顾问,不用AI 2026-09-27 14:13 欧洲乱局

美国把“反饥饿联盟”一脚踢出G20,金砖银行出手了 2026-09-27 14:01 全球南方之声

“芯片问题未随这对表亲上主桌,中国内功更强了” 2026-09-27 13:50 中美关系 观察者头条

美财长邀功:很有效,土耳其和阿联酋都停了 2026-09-27 13:39

上任仅24天,哈国防部长被免职 2026-09-27 13:23

3个月第2次按停!不光入侵美澳政府网站… 2026-09-27 13:17

搜索 观察者头条 查看全部 “芯片问题未随这对表亲上主桌,中国内功更强了” 评论 37 中美谈完,日本车企松了口气:熬过去了,但… 评论 61 伊朗提议重开,特朗普:我拒绝了 评论 57 “特朗普感觉良好,但共和党慌了:中期选举咋办” 评论 31 史无前例、惊艳!白宫铺开三天 “最高礼遇”… 评论 61 风闻 · 24小时最热 查看全部 1 驳项立刚的雄文《强大未必是文明》 评论 190 赞 25 2 看来我对成飞六代的猜测是对的 评论 99 赞 30 3 为什么企业都不乐意给工人涨薪呢?你看是不是这么个理儿 评论 90 赞 12 4 只需看看西方普遍的胖子,你就能知道到底是谁的饮食“重油重糖”了 评论 89 赞 73 5 国庆大片,没想到扑这么狠 评论 81 赞 8 6 格力空调与美的空调哪个更好? 评论 66 赞 2 7 知识分子不能把民众当成傻子 评论 47 赞 39 8 意外拍到!美国B-21轰炸机出现第二架!明年服役威胁较大! 评论 43 赞 2 9 帮忙装迫击炮弹!抢先中国,美国人形机器人已在乌克兰参加实战? 评论 32 赞 3 10 左翼党“攻克柏林”!两个女人正在撕裂德国 评论 32 赞 28 最新视频 查看全部 3个月第二次暂停!入侵美澳政府网站 外传用户图片…OpenAI再次暂停其最先进模型训练 冷血至极!日本男子家暴妻子,警察上门时拒不开门,还将2个年仅1岁和4岁的女儿扔下6楼 病人在留观室内用电线自缢,家属向医院索赔86万,一审被驳回 湖北十堰一医院收费窗口人员称“当官的挂号不要钱,老百姓挂号就要钱”,院方:说话方式方法有问题,后续处理需等节后上班 最新闻 Hot “芯片问题未随这对表亲上主桌,中国内功更强了”

特朗普“罕见”提二战中美同盟,日本慌了:和美方沟通,越快越好

“衣中茅台”的反差:年轻人嫌它“土”,中年男人却为它掏空钱包

OpenAI智能体失控时,竟想叫DeepSeek等中国大模型“帮忙”

解放日报专访世界技能组织主席:大赛很完美,中国经验值得各国学习借鉴

Copyright © 2010-2026 观察者 All rights reserved。 沪ICP备10213822号-2 互联网新闻信息服务许可证:31220170001 网登网视备(沪)02020000041-1号 广播电视节目制作经营许可证:(沪)字第03952号 增值电信业务经营许可证:沪B2-20210968 互联网宗教信息服务许可证:沪(2024)0000009 违法及不良信息举报电话:021-62376571 沪公网安备 31010502000027号 中国互联网举报中心 上海市互联网违法与不良信息举报中心