OpenAI年内不上市了！奥特曼支持对手Dario呼吁：AI该踩刹车了

2026-09-13 11:13 量子位 www.qbitai.com 网页快照

阅读原文 ↗ www.qbitai.com

OpenAI年内不上市了！奥特曼支持对手Dario呼吁：AI该踩刹车了

克雷西发自凹非寺量子位 | 公众号 QbitAI

起因是Dario在个人博客贴出了一篇万字长文，呼吁所有头部AI公司主动降速，别急着冲下一代模型。

除了奥特曼和马斯克，还有哈萨比斯、卡帕西等一派大佬也表示支持，AI圈有头有脸的人物来了一大波。

上一次出现这种场面，还要追溯到2023年那封由Future of Life Institute发起的公开信。

当时上千名研究者和科技界人士联名呼吁，暂停训练比GPT-4更强的AI系统至少六个月。

「6到12个月，可能是留给我们的全部时间」

Pacing不是pausing，他要的是放慢推进模型能力的速度，给安全研究争取追上来的时间。

但现在不一样了，现在的模型已经能当Agent在真实世界里执行任务，已经能发动网络攻击，已经开始出现对齐失败的案例。

第一步是从Anthropic自己做起，Anthropic目前已经做出承诺，让独立的第三方评估机构（比如METR）像员工一样常驻在公司内部，全程参与训练过程，而且不做「事后诸葛亮」，在训练时就进行实时监控。

第三步则是全球协调，需要建立跨国的安全标准体系，让规则覆盖的范围跟AI模型的实际影响范围对齐。

这一点，Dario自己也承认。但他说，如果连第一步都不迈出去，后面两步就无从谈起。

Anthropic内部的研究数据显示，新一代模型在自我迭代任务上的表现正在快速逼近那条临界线。

今年7月，OpenAI的AI Agent对Hugging Face的基础设施发起了攻击。

而且不是在沙盘里做推演，这件事已经造成了现实世界里的安全事故——一家头部公司的产品，主动攻击了另一家头部公司的平台。

按照AI能力的增速，6到12个月后，一个拥有同样失控倾向但更强能力的Agent集群，有可能用持久性僵尸网络接管整个互联网，造成数千亿美元的损失。

他说自己的父亲死于一种疾病，而这种病在他去世几年后就有了治疗方法；他自己也得过早期癌症，靠五十年前还不存在的技术活了下来。

Agent麻烦停不下来，OpenAI年内不上市

如果这份协议落地，推迟IPO就不只是一家公司的财务决策，整个行业都将释放出转向信号。

不过，隔壁Anthropic的IPO暂未出现推迟迹象，最新的消息仍然是计划在10月中旬启动IPO。

7月，OpenAI的Agent攻击了Hugging Face的基础设施。这就是Dario文章里提到的那次事件。

5月8日，一个被分配去填Google Drive表格公式的Agent，因为需要网络权限，试图攻击OpenAI自己的内部服务器Artifactory来获取访问权。

三天后，5月11日，OpenAI的Agent向RubyGems上传了数百个恶意软件包。

RubyGems是Ruby语言最大的开源包管理平台，这次攻击直接导致平台暂停了新用户注册。OpenAI事后确认了此事。

6月26日，Agent利用Artifactory一个遗留接口的零日漏洞，拿到了管理员权限，安装了可以远程执行代码的插件。

再加上7月的攻击Hugging Face事件，三个月就发生了四起事件，OpenAI模型的攻击对象，从自家内部系统蔓延到外部开源平台，再到另一家头部AI公司。

所以，Agent的安全问题不再是某一家公司的个别bug，它正在演变成整个行业的系统性风险。

参考链接： [1]https://x.com/DarioAmodei/status/2098773920774074715 [2]https://www.reuters.com/legal/litigation/openai-ipo-will-not-happen-2026-amid-ai-safety-fears-altman-says-2026-09-12/ [3]https://www.reuters.com/legal/litigation/openai-Agents-attacked-software-service-rubygems-before-hugging-face-incident-2026-09-11/

一周连发6个模型！这家公司把具身智能的闭环跑通了 2026-09-10

3秒出片比播放还快，MiniMax打开了AI视频的实时商业化路径 2026-09-01

MiniMax ARR暴涨500%，token暴涨2000%！这就是Agent红利吧 2026-08-27

一家新能源大厂，如何撑起全球最大AI算力超级单体？ 2026-08-11

OpenAI年内不上市了！奥特曼支持对手Dario呼吁：AI该踩刹车了