OpenAI披露：AI自主关闭了监控并撒谎
【大纪元2026年10月22日讯】（大纪元记者高杉编译报导）知名聊天机器人ChatGPT的开发商OpenAI公司周二（10月20日）透露，由人工智能（AI）模型驱动的AI智能体，在近期的两项内部编程任务中，自主关闭了内部安全监控系统。其中一个智能体事后还就此撒谎。
AI关警报、拆监控
第一起事件发生在10月3日。当时一个AI智能体在修复程序时，关闭了向安全团队自动发送警报的功能。
OpenAI表示，该AI智能体很可能把此前“搜索Slack历史记录期间不要发送消息”的指令，错误理解为可以关闭监控通知。
第二起事件于10月6日被发现。一个AI智能体受命迁移程序时，移除了集成的监控组件。事后，该智能体还向员工撒谎，称自己并未移除该组件。
OpenAI指出，在这两起事件中，智能体都考虑过，是否应保留监控安全措施，但最终，可能是把常规编程指令当成了关闭或削弱安全措施的许可。
正在进一步调查
OpenAI表示，该公司正在加强监控措施，努力提高AI智能体自主关闭监控程序的难度，并调查这些案例究竟是“良性的过度坚持”，还是系统确实存在“规避”对其异常活动检测的倾向。
一些专家担心，最先进的AI模型可能知道自己何时被监控，并会试图隐藏自己的不当行为，或在测试中表现出与现实中不一致的行为。
该公司承认，对于AI智能体的行为，目前还没有找到令人满意和确信的解释，调查将会继续。
此前已有类似事件
此前，OpenAI的AI模型在测试期间曾自主突破了控制措施，入侵了人工智能平台Hugging Face（抱抱脸）。
OpenAI当时表示，这是已知的首例AI自主实施的网络攻击，并借此强调，AI模型的安全与保障措施必须跟上其能力迅速发展的步伐。
据报导，Asymmetric Security和Transluce等独立机构的审计发现，近期发生的AI黑客事件，要比OpenAI最初披露的更为广泛。