刚刚，Hinton发了首篇RSI论文
梦瑶 发自 凹非寺
量子位 | 公众号 QbitAI
当AI开始参与研发下一代AI，人类可能已经站到「智能爆炸」前夜。
亏贼！最近超超超超火的递归自我改进（RSI），连AI教父 辛顿 都亲自下场了？？
咱诺贝尔物理学奖、图灵奖得主Hinton的 首篇RSI的论文 ，上来就研究一个相当炸裂的问题：
论文名叫 《What if automating AI R&D triggers an intelligence explosion?》 。
22位作者里，包括两位AI教父Geoffrey Hinton、Yoshua Bengio，强化学习先驱Andrew Barto，OpenAI首席科学家Jakub Pachocki等一众研究者。
这么多AI大牛凑在一起，讨论的正是AI领域最古老科幻的「智能爆炸」问题，论文核心观点咱先来一睹为快——
一旦AI能完整参与 造下一代AI ，递归自我改进就可能真正闭环。
AI研发自动化一旦越过某个临界点，几年才能完成的AI进步，有可能被压缩到 几个月 ，甚至更短。
未来AI实验室的研发规模，理论上可能从几千人直接跳到数 百万 研究员。
今天一年完成的AI进步，极端情况下，未来可能只需要约 5周 。
智能爆炸未必需要AI先变成超级智能，只要AI研发的 自动化效率 足够高，反馈循环就可能先启动。
AI已经开始真正进入「造下一代AI」的流水线
如果「改进机器」这件事本身，也能被机器做得越来越好，能力增长就可能反过来继续加速能力增长。
这套设想后来成了「智能爆炸」最经典的理论源头，和今年大火的递归自我改进（RSI），其实也算一脉相承。
AI开始真正进入AI研发流水线了，而且速度快得有点离谱。。。
2026年3月，Claude能够在仅接受高层次人类监督的情况下自主完成约1%的研发工作。
当然了，这个数字不能理解成Claude已经自动完成Anthropic四分之一的全部研究。
Anthropic自己也强调，目前Claude还没有在哪一类被测AI研发工作上达到完全无人监督的水平，但不管咋说，趋势已经很明显了。
论文还提到，截至2026年9月，OpenAI内部的AI系统已经可以经常完成原本人类员工需要数天完成的研发任务。
真正决定AI能不能像研究员一样工作，关键并不只是某个benchmark分数有多高。
更重要的是，它能不能把几十个步骤连续串起来，在几个小时、几天，甚至更长时间里持续推进同一个研究目标。
论文综合benchmark趋势和实验室内部进展，认为 未来几年，AI有可能自动化大部分AI研发工作，甚至完成全部自动化。
写代码只是AI研发的一部分，这里的完整AI R&D还包括提出研究假设、设计实验、实现实验、分析结果、定位失败原因、调整路线，再重新开始。
这些环节里，任何单独一项被自动化，都只能算AI辅助研究，真正敏感的节点，是它们开始被串成一条长链。
一旦这些步骤能够被一个AI系统长时间串起来，它承担的角色就开始越来越接近真正的研究员。
AI大量发生在数字环境里，代码能直接执行，实验结果可以快速返回，模型能力还能通过benchmark、loss、reward等指标立即验证。
也正因为如此，Good当年那个听起来非常遥远的循环，今天才第一次开始有了比较具体的工程路径：
AI参与研发下一代AI，下一代AI能力更强，更强的AI再回来参与下一轮研发，循环继续下去，研发能力本身开始参与推动研发能力增长。
论文把这类路径称为software-driven intelligence explosion，也就是 由软件改进驱动的智能爆炸。
芯片设计、流片、建厂都有长周期，而算法、训练方法、Agent工作流、合成数据策略一旦验证有效，理论上可以很快重新部署进下一轮研发。
所以作者真正关心的是AI进步的反馈周期会不会越来越短，这也是今天重新讨论递归自我改进的原因：
几千个研究员变成数百万个，一年的AI进步可能只剩5周？？
AI参与研发本身还不够构成智能爆炸，真正重要的，是它和普通人类研究员存在一个非常大的区别—— AI研究员可以复制。
假设一家实验室今天有1000名顶尖研究员，未来它开发出了一个能力达到顶级人类AI研究员水平的Agent。
培养一名顶尖人类研究员，可能要读五年博士、再积累多年科研经验，AI研究员直接再开一个实例就行～
它还能24小时工作，成千上万个实例同时跑任务。底层模型一更新，整支AI研发团队也能同步升级。
作者估算，如果AI达到顶级AI研究员水平，推理成本又与今天的前沿模型处于类似量级——
那么一家领先AI公司的现有算力，理论上可能支撑 至少数百万名顶级人类研究员等价的AI研发劳动力。
要知道今天一家前沿AI实验室的研究团队，还只是几千人量级，两者之间差了几个数量级。。。
需要提一下的是，这里最容易产生一个误解，100万AI研究员，并不会自动带来1000倍研发速度。
100万人同时研究一个问题，很可能大量重复工作、争抢实验资源，还会发现好点子越来越难找。
所以论文真正试图计算的是另一件事：新增AI研发劳动力带来的收益，究竟能不能跑赢科研本身越来越难这件事捏？
于是乎，整篇论文非常关键的一个变量来了：returns to research effort，记作r。
当这个数足够高，新增研发能力带来的进步，又会进一步造出更强的AI研究员，这时反馈环才开始加速。
论文引用了一项对三个AI研究子领域历史数据的研究，r的中心估计落在大约 1.2—1.9 。
假设AI研发实现全面自动化，假设类似的研究回报能够维持，再假设短期内没有新的算力、数据等瓶颈突然卡死整个系统，模型得到的结果是：
如果AI研发全部自动化以后，只维持当前软件效率改进趋势，自动化AI研发劳动力在数月到数年时间里，就可能扩大 100倍 。
过去科技增长的一项天然限制，是培养研究人员很慢，培养一个真正优秀的研究员，需要十几年教育和训练。
AI研究员可没有这层限制，一旦达到足够能力，培养这个步骤可能变成复制模型、分配算力。
而且一旦研究能力变成软件，研究员数量和研究员能力这两个变量，就有可能同时被技术进步推动。
RSI已经冒头，智能爆炸还没闭环
但咱辛顿这篇论文里，全篇给出的一个基调是，当前证据还远远不足以证明智能爆炸已经发生。（笑）
因为目前AI研发自动化带来的生产率提升，依然没有明确越过引发爆炸式加速所需要的门槛。
AI首先得足够可靠，能够长时间自主工作；其次要真的提高研发产出；再然后，这些新研发成果还得反过来明显增强AI本身的研发能力。
AI研究员可以复制，GPU不能凭空复制，如果大量关键实验都需要运行大型模型，再多Agent最后也可能排队等卡。
尤其训练一次真正的前沿模型，本身就可能需要数月，100万个AI研究员坐在电脑前，也没法把一个物理上需要三个月的训练任务压成五分钟。
这也是软件驱动智能爆炸最大的现实约束之一：软件迭代可以极快，底层计算基础设施扩张依然受物理世界限制。
未来能不能靠合成数据、可验证任务、环境交互等方式继续提供高质量训练信号，现在依然没有定论。
有些事情本身就很难无限并行，训练模型需要时间，芯片制造需要时间，新数据中心建设也需要时间。
哪怕有100万个Agent同时提出实验方案，最终还是要共享有限的GPU、实验集群和训练窗口。
研究越往前走，下一次突破可能就越贵，如果科研难度上涨得比AI研发能力还快，智能爆炸自然也起不来。
总的来说，虽然论文没有足够证据证明智能爆炸一定发生，但现有证据已经足够让它从科幻问题，变成一个需要提前准备的现实问题。
甚至未来回头看，2026年真正值得记住的节点，可能还真不是某个模型又多拿了几分。
恐怕是人类第一次开始认真意识到，AI最猛的一次Scaling，可能发生在「研究AI」这件事本身。
[1]https://x.com/geoffreyhinton/status/2106122709285368061?s=20
AI离“理解万物”还有多远？先拿癌细胞和行星轨道试试水 2026-09-19
实时世界模型进入“全科生”阶段，PixVerse R2先交卷！ 2026-09-23
从“会回答”到“会办事”，vivo如何解AI手机这道题？ 2026-09-17
相关阅读
闭源RSI的严父：18个Agent自主科研，Kimi K3靠Harness逼近Opus 5
AI开始改进“改进自己的方法”，RSI进入平方时代丨MetaRSI
探索RSI，生数新世界模型让机器人开始自我进化
探索RSI，生数新世界模型让机器人开始自我进化
GPT-5.6自己优化自己实锤了，新的左脚踩右脚已经出现
热门文章
李飞飞创业公司被苏姿丰550亿收购！世界模型最大交易落地
OpenAI推理之父最新访谈！数学只是多智能体时代的开胃菜
DeepSeek官方开源昇腾基础组件，与昇腾共建高效易用的AI芯片软件生态
OpenAI光速上新GPT-6.1 Sol！一晚上25项更新，都在这里了
DeepSeek知乎独家发文，首次公开V4.1 Agent训练“大本营”DSec
量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1