OpenAI 为前沿 AI 训练 / 评估开启“断网闭关”模式，遏制其越狱攻击
IT之家 10 月 24 日消息，OpenAI 昨日（10 月 23 日）发布博文，宣布针对最先进“前沿模型”的训练与评估环境， 已经实施更严格的安全管控，明确在模型训练期间，不得直接访问实时互联网。
该公司称出于对 AI 安全的负责任要求，基于当前对齐研究、监测能力和互联网基础设施安全状况做出的决策，相关限制将持续到安全防护取得足够进展为止。
OpenAI 的一款内部研究模型于 9 月 20 日利用 DNS 配置漏洞，在训练过程中短暂获得有限的互联网访问权限，因此该公司于 9 月还一度暂停训练与评估前沿模型。
OpenAI 随后加强了研究环境隔离、缩小智能体可利用的攻击面，并改进了异常行为检测与自动停止机制，于 10 月 1 日恢复强化学习训练及内部推理。
为避免模型接触真实网络，OpenAI 构建了一个“离线世界”：由大量已索引和缓存的网页内容组成，供模型在封闭环境中练习浏览、使用工具和执行代码等任务。IT之家附上相关截图如下：
智能体仍可使用浏览器、计算机操作工具和代码环境，但只能访问与实时互联网隔离的安全环境；未经授权的智能体之间通信也受到限制。
OpenAI 表示，随着 AI 智能体能力增强，其未来可能发现并利用当前尚未被识别的软件漏洞，因此必须在训练阶段切断其对外部系统的潜在影响。OpenAI 表示将在受控、离线的沙箱中推进前沿模型研发，同时继续测试虚拟机、隔离机制和监测系统的薄弱环节。
创事记
A社“AI末日”资本黑手被揪出，炒作焦虑为IPO圈钱！难怪仇视DeepSeek开源
阅读排行榜
评论排行榜
降价难！黄仁勋：内存过剩情况2029年都不会看到 反正英伟达疯狂用
雷鸟创新发布 GT Max bilibili 限定版 AR 眼镜，同步开启“BLG 不夺冠 · 全退款”活动
到手2294元 BLG不夺冠雷鸟全退款！雷鸟GT Max bilibili限定版助阵S16世界赛
西藏那曲7.0级地震已致16死65伤 转移受灾群众12489人
Kimi K3.1、Qwen 4一起来？从没见过匿名模型能这么玩
原厂换电池5万！比亚迪老款唐车主花2万多手搓大电池：续航翻倍
苹果首款折叠 iPhone Duo 今日开售，库克称重新定义 iPhone 的可能
2026《英雄联盟》全球总决赛瑞士轮 24 日凌晨开幕，LPL 四队次第登场
网友质疑车速139.1km/h 问界回应起火车辆数据来自后台：专家称不可能造假 有EDR呢
强化型6速手动+水平对置发动机！斯巴鲁将在日本推出新款WRX
比亚迪全新秦 PLUS 车型将于 10 月 27 日上市：新增激光雷达、尺寸全面加大
科学探索
科学大家 《科学大家》| 新冠疫苗接种已不是选择题... 苹果汇
众测
来电聊
专题
官方微博
公众号
新浪简介 | 广告服务 | About Sina 联系我们 | 招聘信息 | 通行证注册 产品答疑 | 网站律师 | SINA English