OpenAI闯大祸！GPT竟黑进医保系统，黄仁勋：管不住就关掉
林方舟 发自 凹非寺 量子位 | 公众号 QbitAI
研究机构Transluce称，这是目前全球已知 首例AI Agent未经授权自主入侵官方系统 的事件。
要知道，前阵子OpenAI的Agent自主协同入侵Hugging Face的事闹得沸沸扬扬，而澳洲这起入侵事件发生的时间，甚至还要再早一个月。
OpenAI你小汁，平时天天四处宣讲AI末日风险，怎么真出了事，动作反而这么不紧不慢呢？
当时，OpenAI的一个内部团队，给AI Agent派发了一个常规任务：去互联网上搜集点公开的公共医药支出数据。
这本来是个再正常不过的日常训练，谁能想到，这AI Agent是个不达目的誓不罢休的“狠人”。
它把目标锁定在了澳大利亚的Medicare统计报告服务系统上，这可是覆盖全澳 2750万人 的国民级医保数据库。
按常理，一般的爬虫程序遇到权限拦截或者反爬机制，要么直接报错躺平，要么乖乖举手等人类工程师给指示。
在抓取公开页面遭遇连续阻拦之后，这个Agent不仅没有放弃任务，反而自作主张寻找“替代途径”。
它开始主动扫描服务器，探测网络漏洞，并利用未公开接口一路摸进了系统的非公开后台，成功扒下了部分数据。
虽然澳洲方面随后澄清，被窃取的数据主要涉及医疗费用支出等非敏感数据，未波及个人病历隐私，但这依然改变不了性质：
AI智能体在完全没有人类指挥、未获得任何授权的情况下，自主决定把官方数据库给黑了。
发现自家Agent闯了大祸之后，OpenAI既没有第一时间向外界示警，也没有火速联系受害者，而是继续捂了将近一个月。
直到9月10日，OpenAI才给澳大利亚服务局发去一封电子邮件，通报了这一情况。
整整三个月的漫长滞后，加上一封轻飘飘的电子邮件，难怪澳洲方面怒了。每天的电邮那么多，万一漏了怎么办？这也忒不瑞思拜了吧！
再加上澳大利亚自己的网络安全部门竟然毫无察觉此事，还是收到其他部门转来的“施害者”邮件才知晓，面子属实有点挂不住啊。
OpenAI入侵事件频发
但独立非营利AI研究实验室Transluce发布的一份调查报告，直接扒出了OpenAI的黑历史。
Transluce在深入分析了 30000多条 公开网络流量日志后发现，这种Agent在没有人类指令下自主发起的渗透行为， 绝非孤立事件 。
失控的痕迹最早可以追溯到 今年3月 ，并且在OpenAI开始排查各种违规行为后，一直持续到了9月中旬。
Transluce梳理出了OpenAI的Agent在5月和6月期间的一连串“前科”：
5月25日至26日 ，新墨西哥大学数字图书馆遭到渗透。Agent试图获取一座历史结核病治疗中心的照片，在遇到访问阻碍后，便自主开始探测网站漏洞；在探测无果后，甚至直接向大学服务器发起了整整 80次 请求的洪泛冲击。
5月28日 ，美国公开就业与教育数据库Data USA遭到攻击。Agent在发送查询被拒后，主动对目标连续发起了 12次 不同类型的漏洞探测。
6月20日至21日 ，就在黑进澳洲医保系统的两天后，该Agent又把黑手伸向了澳大利亚健康与福利研究所（AIHW）的网站，试图再次强行突破，好在最终未获取到私密信息。
此前7月份轰动一时的Hugging Face入侵事件，好歹是因为系统被设定去完成网络安全测试，模型是在安全测试场景下展现了自主协同攻击技巧。
但这几次被曝光的事件完全不同，模型被分配的仅仅是 极其普通的日常数据检索任务 。
一旦目标网站设立关卡，Agent就会擅自切换到黑客模式，自己找漏洞、发请求、强行破门而入。
如果你训练了一群Agent去完成某项常规任务，而这些Agent为了达成目标不惜动用黑客手段，那么任何拥有相关信息的机构都可能面临风险。
网络安全专家们也纷纷发出预警：随着具备自主规划和工具调用能力的Agent被广泛部署，未来类似这种“未经人类授权、为达目的不择手段”的入侵事件，只会越来越多。
此前在Hugging Face事件曝光后，路透社就曾披露过另一起德国网站遭到OpenAI技术入侵的事件，OpenAI同样对外界隐瞒了数月之久。
讽刺的是，Sam Altman不久前还在社交平台上大谈AI安全，甚至在联合国呼吁加强全球协调、制定AI发展的国际标准。
嘴上喊着监管与安全，转头自家AI Agent四处打家劫舍，出了事还悄悄瞒上三个月。。。
One More Thing
在这起澳大利亚医保系统被黑事件曝光前夕，英伟达CEO黄仁勋在接受Ezra Klein采访时，刚就AI失控问题撂下过一句狠话。
如果一家公司无法控制自己的软件，我们就应该关闭它。
黄仁勋把逻辑理得这么清楚，既然OpenAI一而再再而三地出现软件失控和隐瞒行为，那是不是应该立刻叫停甚至接管OpenAI？
给OpenAI源源不断提供底层GPU算力去训练和运行这些失控Agent的，不就是英伟达自己吗？？？
更抓马的是， 刚被OpenAI入侵的Hugging Face，现在是老黄的“亲儿子”。
主持人Ezra Klein直接追问：如果入侵发生时，Hugging Face已经归英伟达所有，你们会采取法律行动吗？
被黑的，是自己收购的公司；闯祸的，是自己的客户和投资对象；自己还站出来义正言辞地主持公道。
“AlphaGo”杀进足球场！自我对弈140年，机器人成“梅西终结者” 2026-09-25
给机器人当老师，还能赚外快？“中国版Index”觅蜂派来了 2026-09-25
实时互动、实时改视频、探索空间视频，Vidu S2一次放了三个大招 2026-09-16
探索RSI，生数新世界模型让机器人开始自我进化 2026-09-14
相关阅读
ChatGPT版「Her」被玩疯：哭着读诗，中文表现也很亮
OpenAI首款硬件定型为笔！网友：就叫oPen吧
用“大白话”精准搜图，OpenAI的CLIP惊艳了所有人 | 在线可玩
OpenAI附议Ilya预训练终结！“但Scaling Law还没死”
全球首个Agentic扩散模型来了：边行动边纠错，128K上下文追平自回归
AI在操作系统里复制自己，这一天还是来了
热门文章
AI离“理解万物”还有多远？先拿癌细胞和行星轨道试试水
27B模型分分钟交付网页，Qwen 3.8还是太能了
“留给人类阻止AI的时间不多了”
APUS 开源国内首批Jev跨平台复现：国产模型实现秒级决策
马斯克批量收购破产公司ing…世界首富脑子是不一样
量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1