hiw3c 日报精选
Google News AI 网页快照

GPT-6.2难产!OpenAI怕了 - Sohu

GPT-6.2难产!OpenAI怕了 Sohu

来源:Google News AI · www.sohu.com

GPT-6.2难产!OpenAI怕了

OpenAI已经成了全世界最把安全当回事的公司之一。 OpenAI现在是一家安全公司。

那意思就是,在OpenAI,安全焦虑已经被排到了首位,发布新模型反而成了次要任务。

(2022年的谷歌,手握领先技术,却因为安全和品牌声誉顾虑迟迟不敢发布产品,眼睁睁看着OpenAI抢走了生成式AI的先发优势。)

而就在刚刚,AI爆料博主Token Gremlin又给出了更具体的说法:OpenAI的新一代模型正因 安全与对齐问题 推迟发布,延期已经持续数周。

而且,不只是按发布顺序接棒的GPT-6.2,他还同时点名了GPT-6.5,并指出OpenAI正面临一个棘手的问题:

说起来,这事之所以值得关注,是因为早在11月初,社区里就陆续有人声称,自己已经被灰度到了GPT-6.2。

就连The Information也曾在11月4号透露,OpenAI的新Sol、Astra和cyber模型最快可能在当周五,也就是11月6日推出。

反观好兄弟Anthropic,倒是在11月9号接连发布Claude Fable 5.2和Mythos 5.2~

按照Token Gremlin最新的说法,奥特曼送给达里奥的上市大礼包,恐怕要因为安全对齐问题而延期了。

除了延期数周,他还给出了一个更悲观的判断:这些问题短时间内很难得到解决,模型发布节奏也难以迅速恢复。

即使OpenAI近期推出GPT-6.2,也可能不得不带着大量防护限制上线,其他版本则继续往后排。

但有意思的是,就在一天以前,Gremlin还分享了一个使用GPT-6.2 Astra制作游戏的案例。

我们不知道是什么消息让Gremlin突然横跳,但也就在一周多以前,他对OpenAI新模型其实乐观得多。

11月7日,Token Gremlin称,GPT-6.2 Astra和Sol未能如期待中推出,是因为最后关头发现了严重的安全与对齐问题,需要额外修复。

多花几天把安全做好是值得的。耐心一点,好模型很快就来。

他将其中关于内部安全文化变化的描述,与GPT-6.2的延期联系起来,认为Hugging Face事件之后,OpenAI对新模型的放行变得格外谨慎。

虽说这多少有点谜语人的意思,但安全问题影响研发和发布,在OpenAI这里确实有过先例。

此前,OpenAI就曾因模型越界行为暂停部分训练,并因安全与对齐不达标,取消了GPT-6.1 Astra原定于10月的发布计划。

OpenAI官方也曾在10月23日表示,9月20日发生的一次越界事件,促使公司暂停了部分前沿模型的训练与评估。

可以说,至少从OpenAI此前的公开动作来看,安全问题的确是影响前沿模型迭代节奏的重要变量。

OpenAI是不是想先等Anthropic推出Fable 5.2,看看对手手里有什么牌?结果反而被对方抢先一步,连GPT-6.2 Astra也不得不继续延期?

他在后续的帖子中表示,尽管自己对Anthropic并无好感,但必须承认,这家公司长期对安全的重视得到了回报:

在他的判断中,Anthropic的新模型已经能够公开交付,而OpenAI在这一环节落后了数月。

当然,这些说法目前仍然来自社区爆料和个人判断,OpenAI尚未对此作出官方确认。 返回搜狐,查看更多