AI 日报hiw3c.com

Claude 已主导 Anthropic 26% 的 AI 研发:当 AI 开始研发 AI,人类还剩下哪一步? - 深潮TechFlow

Google News AI www.techflowpost.com 网页快照

Claude 已主导 Anthropic 26% 的 AI 研发:当 AI 开始研发 AI,人类还剩下哪一步?

深潮导读: Anthropic 首次用自家模型统计自家研发中 AI 的参与度,结果是 26% 的工作已由 Claude 主导。这个数字既是技术进步的证明,也是重新审视人类角色的起点。对从业者而言,问题的关键不是 AI 能不能干活,而是人还站在哪个位置。

Jack Clark 下了注:2028 年前 AI 自己造自己

2026 年 5 月 4 日,Jack Clark 在他的 Import AI 通讯里给“最后一个人类退出回路”的那一天下了注。他说这个数字是勉为其难给出的:到 2028 年底,一个强大到能在没有任何人类参与的情况下造出自己继任者的 AI 系统出现的概率,60% 或更高。2027 年他给了 30%,并解释为什么压低了它。AI 研究可能需要“创造力和异端洞见”,而到目前为止,系统还没有在任何重大方面表现出这种能力。

五周后,也就是 6 月 8 日,他再次写道:过去几个月他一直在 Anthropic 收集证据,证明同一个想法的缩小版本,实验室自身生产力的复合加速,已经开始了。然后他问了自己的问题:“这些有任何定论吗?没有。”

9 月 15 日,在接受 NPR 采访时,Clark 说得很直白:“我们没有一个第三方来验证我们所说的话。”

两天后,也就是 9 月 17 日,Anthropic 公布了一个统计数字。文章由 Marina Favaro 和 Phillie Wright 撰写,Clark 被列为研究方向负责人。截至 2026 年 8 月,按照该实验室自己的统计,Claude 主导了 Anthropic 26% 的 AI 研发工作,而 2 月这个数字还不到 1%。没有任何一种被测量的研发工作在没有人的情况下运行。

人还站在哪些台阶上

Anthropic 的页面给 Clark 所说的事件起了个名字,递归自我改进:一个模型完全自主地构建它的继任者。它把这个统计数字当作理由,用来说明世界距离那个时刻还有多近。在这个数字下面,有一个更朴素的问题:谁会是最后一个留在回路里的人?他们还在做什么?

Epoch AI 的等级量表用六级台阶来回答,每一级由人的角色来定义。图 1 列出了全部六级。其中四级展示了模式;另外两级,未使用和辅助,排在较低的台阶上。

在“辅助”这一级,AI 帮忙查资料和润色。在“协作”这一级,AI 完成大块工作,但人做决定。在“主导”这一级,AI 根据一个高层要求完成大部分任务,人负责监督、纠偏和批准。在“自主”这一级,AI 完全独立工作,回路中没有人类。

进展有多快是另一个问题。这个统计是 Anthropic 自己的、针对自己员工的、关于他们在 2026 年 7 月所做工作类型的衡量,评的是这些工作通常是如何完成的,而不是 Claude 能做到什么。

Anthropic 应用的 Epoch AI 六级自动化量表,以及每一级中人的角色。占比是 Anthropic 自己的统计,截至 2026 年 8 月,按其 AI 研发工作按 7 月人时加权计算。“主导”是第四级;截至 2026 年 8 月,该实验室报告在第五级“完全自主”没有任何被测量到的工作。

Claude 自己数的数,一个人周一个人周地数

那个数字背后的清点工作是 Claude 完成的,不是人。2026 年 7 月的每一周,构成模型研究回路的每个部门中随机抽取五分之一的员工,一个 Claude 代理去梳理这些人的每一周。它阅读他们的 Slack 消息和内部文件,并写下每个人做了哪些工作。

拿一个人和一周来说。这个人得到一个权重单位,平均分配到他或她的各项任务上。四项任务,每项四分之一个单位。十项任务,每项十分之一。按照页面自己的描述,这是一种粗略的近似,但在平均水平上表现合理,因为很多人都在做的任务类别会积累最多的权重。

现在把所有人加进来。7 月每一周被抽样的每个人,经过同样的阅读,汇总成一个约 15,000 项细粒度任务的扁平列表。

然后这些任务被放进一棵树里。它有 542 个不同深度的节点,其中 378 个是叶子,也就是最细的颗粒度。这棵树被冻结了,所以每个月的评级都是针对同一篮子工作做出的。叶子读起来像研究实验室里的一周:评估平台缺陷诊断与修复。强化学习沙箱出口与网络策略。服务事故复盘。

然后每个节点得到一个评级。一个 Claude 代理研究这类工作在整个公司里是如何完成的,谁在做,用什么工具,AI 完成了多少;一个独立的 Claude 评审阅读证据并从六个级别中选一个。对于任何一个月,代理可以看到该月或更早的证据。

页面上把“主导”这一级表述为 Claude 能做到什么,但评级遵循 Epoch 量表作者们的规则:它们描述的是任务在前沿实验室里“通常如何完成”,而不是尽最大努力能做到什么。

实验室页面上的一个假设例子让这些台阶变得具体。一条夜间数据管道坏了,必须在明天的运行之前修好。在“协作”这一级,工程师把日志交给 Claude,可能已经带了一个猜测;当出现新问题时,Claude 停下来,工程师决定是绕过去还是彻底修好。测试通过后,工程师可能会逐行阅读改动,重新运行管道并部署。在“主导”这一级,工程师只把故障警报丢给 Claude,剩下的由 Claude 来做。它找到出问题的阶段及其原因,编写并测试修复方案,在数据副本上重新运行管道,把输出与上一次正常运行的输出对比,并写下出了什么问题。Claude 不部署。它标记工程师,工程师阅读报告,浏览改动,也许问几个问题,然后决定是今晚发布还是等一等。在更高的那一级,尚未达到的级别,Claude 会被信任去监控、修复和部署,而人类只在想参与时才参与。

这样的评级有多可靠?每个工作领域的负责人给自己的领域评级,而不看评审看到了什么。评审与人在具体级别上达成一致的概率是 59%,人与人之间达成一致的概率是 35%。评审与人相差不超过一级的概率是 97%。样本没有被描述,薄弱之处以实验室自己的话说得很明白:“在边界案例上确实存在分歧空间”,比如“协作”在哪里结束、“主导”从哪里开始。一个从“协作”翻到“主导”的评级,就会让那个 26% 发生变动。

图 2 画出了实验室每月的读数,从 2 月的不到 1% 到 8 月的 26%,每个月都在同一篮子 7 月工作上评级。实验室还报告称,“协作”及以上级别的工作占比超过 90%。

这是 Anthropic 自己的评级,由 Claude 评估员按 Epoch AI 的六级自动化量表,对该实验室 2026 年 7 月的一篮子模型研发工作逐月打分,并按 7 月人工时加权。2 月的数值是图表自身的描述(不足 1%);3 月至 8 月为图中标注的数字。Anthropic 的图表还显示了 90% 测量区间及其他自动化等级;此处未重绘。Leads 是该量表的第四级,指有人监督;截至 2026 年 8 月,该实验室报告没有任何被测工作类型达到第五级。

所以这个数字的构成是:一周、一棵树、一位评估员和一条边界。结果是整个实验室的一个总数,没有按工作类型拆分,因此无法说明哪些任务落在 26% 以内。

Epoch 将做决策评为低分,将写代码评为高分

5 月,Clark 在两类工作之间划了一条线。他写道,AI 如今可以自动化 AI 工程中的大量工作,也许是全部,但尚不清楚它能自动化多少 AI 研究。

Epoch 的作者同样将实验室的工作分类,第一类是决策:做什么、继续做什么、把算力放在哪里。Epoch 自己的示例评级(他们称之为最佳猜测起点)将“决定发布什么”和“设定团队方向”评为 1 分,即边缘性帮助,而将“编写研究代码”评为 4 分,即所谓 leads。26% 在这两端之间落在哪里,正是这个总数无法回答的问题。

实验室中描述的日子也指向同样的方向。根据 Clark 合写的一篇文章,Claude 在 4 月交付了 800 多个修复,将一类 API 错误减少了一千倍,负责监督的工程师估计这项工作量需要人类四年才能完成,而一名员工大约五个月没有写过代码。另一位员工写道,当一切正常运转时,他们所做的一切似乎都不重要;当一切崩溃时,“我已经不知道自己一直在做什么了。”

实验室 8 月的风险报告用一个词给出了保留人工步骤的理由:信任。研究者本可以在有价值的工作上使用非常大量的 AI 劳动力,但他们选择适度的量,因为有些步骤他们不信任模型能做对。报告从同一事实中得出第二个结论。实验室完全有理由用模型替换研究者,但它没有这么做。报告将此解读为模型尚不能替代整个研究团队的信号。报告还称这一解读只经过了部分检验:实验室从未在模型失败的任务上花费五倍于研究者成本的资源,去验证金钱是否能弥合差距。

OpenAI 的情况也类似。截至 8 月中旬,其研究组织每人工日运行 3.1 个智能体工作日,第 90 百分位用户每天的 token 花费超过 7000 美元。那里的人仍然设定研究优先级,判断哪些想法和结果值得推进,并决定是扩大规模、暂停还是部署。

实验室自己的规则看的是速率,不是占比

6 月的声明讲的是速度。实验室生产力的复合加速是关于进步速率的陈述,而这个数字衡量的是另一件事,移交出去的工作份额。

9 月 30 日,外部 AI 模型评估机构 Model Evaluation and Threat Research(METR)总裁 Chris Painter 将 26% 写入参议院记录,作为题为“Rogue AI: Securing the Homeland Against AI Agent Attacks”听证会的书面证词。他在后文中写道,当企业用 AI 自动化 AI 研究时,反馈回路“可能导致能力的自我持续加速”。

Anthropic 自己规则中触发这一威胁的是速率,不是占比:“急剧加速”,定义为进步速率翻倍,即一年内取得的进步相当于基线两年。规则称这不等于研究者生产力翻倍,因为投入翻倍不一定会使进步速率翻倍。

根据 8 月风险报告的解读,截至 7 月 15 日的时期内,实验室的研究速度显著快于没有 AI 辅助的情况,但尚未达到两倍,实验室对此不确定,测量也很困难。加速的早期迹象已经出现,实验室可能在未来一年内越过阈值。Anthropic 9 月 17 日公布数据五天后,Claude Opus 5.5 的系统卡发现,实验室内部测量显示没有持续的、可归因于 AI 的 2 倍加速。

METR 还在 9 月 22 日发布了对 Claude Opus 5.5 发布前评估的摘要。在其中,METR 转述了另一个 METR 团队的估计,该团队比摘要作者拥有更多访问权限:AI 带来的能力整体加速约为 1.5 倍,达到 2 倍的概率约为 30%。该团队无法与摘要作者分享其证据,且该估计未说明覆盖的时间段。

9 月 17 日的数字衡量的是移交程度。8 月的报告和系统卡估算的是速率。三者中没有任何一个在同一时间段内、对同类工作同时进行了两种测量。

解读 26%

按实验室自己的统计,截至 2026 年 8 月,Claude 主导了 Anthropic AI 研究工作的 26%,且这个数字在七月工作的一篮子样本上连续六个月上升。这是按实验室口径计算的移交,由 Claude 采集并与工作负责员工的评级进行比对。

这还不能解读为闭环有多近。实验室的规则关注速率,而实验室自己的估计低于规则划定的线。这个数字留下未解的问题是 26% 里面包含什么。如果 26% 主要是工程,那它衡量的是 Clark 在 5 月已视为触手可及的部分。如果它触及决策和研究,那它衡量的是他留待回答的部分。

26% 指向工程。评级将决策放在低位,实验室的例子把发布决策留给人,研究者仍然保留信任。这是一种解读,不是测量,而一个按工作类型拆分的数据就能检验它。低等级上的决策和 leads 级别的研究代码将证实这一解读。决策达到 leads 级别则会将 26% 推向研究那一端。

该页面对最高等级的描述中,关于人的那个从句是:除非人类自己想参与,否则完全不需要介入。在它下面一级,按照实验室自己的例子,最后一个人是一位拿着报告的工程师,决定今晚是否发布。

Twitter英文账号: https://x.com/BlockFlow_News

文章内容

相关文章

Dolphin 用 AI 推理订单托底 POD:拆解加密 AI 新贵的真实价值捕获

聚焦 Dolphin 及其 POD 代币,它是加密与 AI 交叉领域资产的典型样本,在供给侧对运营商的排放与需求侧对 POD 的价值积累之间寻求平衡。

伯恩斯坦研报解读:消费互联网跌 11%,三条路径搏 2027 年

市场把在线聚合平台当成 AI 代理时代的输家,伯恩斯坦认为三条路径可能推动 2027 年跑赢。

伯恩斯坦研报解读:数据中心管道 456GW,搁置容量 51.7GW 创纪录

管道增长由开发商和超大规模厂商推动,搁置容量和州级限制同步积累,电气设备总可寻址市场(TAM)随之明确。

AI 时代,如何保管自己的代币?

Anera 联创长文:从实验室战略物资到开源 AI,算力其实有两个市场

a16z 对话斯坦福教授:AI 真能破解密码学?拆解恐慌背后的真相

AI 正在变得更擅长解决困难的数学问题,这对保护私密信息、医疗、银行和加密钱包的密码学意味着什么?

除了更贵的订阅和砍半的额度,OpenAI 想做的还是「微信」

当 Agent 学会「串通」:AI 越来越聪明,如何划定安全边界?

AI 时代的新安全问题,正从「防止一个 Agent 越权」,走向「如何避免一群 Agent 共同突破边界」。

高盛研报解读:主权 AI 打开 5000 亿市场,Palantir 评级上调至买入

Palantir 当前商业年化单客户收入约 400 万美元。核心赌注是 FDE 模型的护城河能否支撑新一轮盈利上修。

GMA AI & Gaming Nexus Singapore 圆满举办:聚焦 AI 和游戏未来

AI 正在显著降低游戏开发与内容生产的门槛,但游戏真正的竞争仍然回到可玩性、用户留存、分发效率和长期关系。

深潮精选 更多>