hiw3c 日报精选
Google News AI 网页快照

前OpenAI研究员改口:超级AI研究员可能明年就来! - Sohu

前OpenAI研究员改口:超级AI研究员可能明年就来! Sohu

来源:Google News AI · m.sohu.com

前OpenAI研究员改口:超级AI研究员可能明年就来!

11月11日,前OpenAI研究员Daniel Kokotajlo在X上转发团队的新预测时说,「我感到恐惧、悲伤和愤怒」。

他认为,智能爆炸似乎终究会在2027年发生:如果METR的判断成立,AI驱动的研发提速,就比《AI 2027》当初推演的提前了约五个月。

当AI开始帮人类研发下一代AI,连最激进的预测者,也可能低估AI模型进步的速度。

不到三个月,《AI 2027》背后的预测团队AI Futures Project,就把超级AI研究员(SAR)到来的时间表拨到了明年。

此前,团队里最乐观的Daniel Kokotajlo,在提到「2029年前出现超级AI研究员」时,也只给出五成概率。

11月10日,AI Futures Project公布了新一轮预测(Q3.5)。

署名作者一致认为,如果前沿AI研发没有显著主动放缓, 超级AI研究员很可能在2027年出现 。

促使他们改判的最重要依据,是独立评估机构METR对Anthropic做的一项调查。

METR花了11周调研Anthropic,查阅内部数据,也访谈了员工,最终估算出一个数字:

从2025年10月起,Anthropic内部模型的基准分增速,达到了此前的 1.9倍 。

据这个估算,Anthropic的模型在这组测试里一年的涨幅,相当于过去近两年的增长。

为了看Anthropic的模型进步了多快,METR用了一项叫作AECI的内部指标。

METR估算,从2025年10月起,这个总分上涨的速度约为此前的 1.9倍 ,95%置信区间为1.5到2.8倍。

2025年10月前后,模型综合得分的年增幅从约15分升至约29分。(图源:METR)

METR换了几种假设重算,发现2025年10月后的涨分速度约为此前的 1.1到2.9倍 。

METR考察了训练算力、招人、数据和算法的变化,认为训练算力增长速度的变化解释不了这次提速。

可到了2026年10月,METR估计, 比过去快出来的那部分,可能有八成左右来自AI。

注意,这个「八成」是METR的主观估计。报告用了「We guess」(我们推测),并明确指出这个判断有很大的不确定性。

AI与其他因素对模型提速的贡献示意,橙色区域为AI带来的额外提速,灰色为未细分的非AI因素。

其他受访研究员还提到,AI会帮着写实验代码、照看实验运行,完成一些过去需要额外花很多工夫才能做的测量。

而按AI Futures Project的新估计,这种提速可能比《AI 2027》当初推演的来得更早。

按当时设定,虚拟公司OpenBrain要取得同样多的算法进展,不用AI得花一周半,用上AI只要一周。

这一次,AI Futures Project根据METR的估计推算,到2026年11月初,仅AI带来的提速,就可能让模型整体进步的速度达到历史水平的 1.7倍 。

为了看看这个速度在旧情景里什么时候才会出现,团队用模型复现了《AI 2027》的大致趋势。

结果显示,同样的1.7倍速,要到 2027年4月左右 才会达到。如果11月初的估计成立,模型进步速度达到1.7倍的时间,就比旧情景 提前了大约五个月 。

即使按当时最乐观的预测模型来算,AI在2026年11月就把模型整体进步速度推到历史水平的 1.7倍或更高 ,概率也不到 4% 。

METR的报告, 也让 AI Futures Project 把超级AI研究员的时间表往前推了。

代码写完,接下来该试哪个想法?实验失败了,是继续查原因,还是换个方向……这些没有现成答案的决定,AI得自己拿主意。

一种方法先假设AI已经把模型进步的速度推到了历史水平的1.7倍。再算上AI今后可能接手更多研发工作。

按这套模型,预测中位数是2027年2月,即超级AI研究员在这一时间点之前出现的概率约为一半。

另一种方法按模型在测试中进步的速度往后推,估算它什么时候能具备顶尖研究团队的判断力,算出的中位数是 2027年7月 。

还有一种方法,用Anthropic员工自己报告的效率提升来推算,结果到了 2028年年中 。

METR在报告开头就说,他们认为 最有助于判断核心结论的证据,大部分都被删去了 。

报告还列了一张表,逐项对照Anthropic向METR提供了哪些内部资料,以及哪些结果写进了公开版。

内部模型的跑分趋势公开了,算法进步的估算和关键研发投入没有披露。至于AI对研发提速的贡献,公开版只列出了部分证据。

按事先约定,Anthropic可以删节非公开信息,METR则可以指出哪些结论依赖这些材料。

Anthropic给出的理由是, 公开这些机密信息可能帮助其他开发者加快AI研发 。

AI Futures Project指出, 跑分增速约为此前的1.9倍,有公开曲线支撑。

METR和Anthropic都认为,用7月中旬的模型自动做研发,直接引发灾难的风险还比较低。双方也都倾向于认为,当时的研发提速还没到Anthropic设下的预警线。

不过,METR认为,Anthropic的公开报告低估了当时的提速幅度,实际提速也有可能已经触及预警线。

接下来,先看AI帮研究员更快写代码、跑实验,能不能让下一代模型更早交付。再看这个更强的模型投入研发后,能不能把再下一轮的研发周期也缩短。

https://blog.aifutures.org/p/q35-timelines-update-looks-like-the

https://metr.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/