别问了,我就爱钱!A\裸辞天才研究员反悔,或想重返大厂
新智元报道
刚刚,两个月前高调裸辞的Anthropic前研究员Jacob Coxon, 态度突然大反转了!
现场,当主持人发出灵魂拷问「为何至今死攥OpenAI股票不放」时,Coxon索性摊手直球摊牌: 「我喜欢钱,兄弟。我承认这是带血的钱。」
果然,没有人能逃过钱的诱惑,哪怕是天天喊着「AI毁灭世界」的硬核末日论者也不例外!
他不仅在持股问题上现场破防、反过来怪主持人多嘴,还坦言自己离开大厂后因为看不到前沿进展而倍感焦虑。
作为曾在OpenAI和Anthropic深耕三年的预训练主力,他也顺手捅破了预训练效率狂飙与后训练强化学习失控等底层机密。
11月9日,斯坦福大学以人为本人工智能研究院与法学院联合举办了一场专题研讨,台下坐着近200名师生。
Coxon一开场依旧保持着「道德吹哨人」的凌厉姿态,痛批硅谷不少科技大佬被商业利益绑架, 「只说有利于自己股价的话」 。
担任主持人的斯坦福大学教授、前美国AI安全研究所高级顾问Rob Reich,顺着股价话题抛出了一个致命问题。
既然Coxon把OpenAI等前沿实验室形容为威胁人类生存的炸弹,教授直接追问他 为何至今还保留着早年在OpenAI工作时攒下的股票期权 。
9月初离开Anthropic时,Coxon曾信誓旦旦地宣称 自己在任何股权归属前就选择了辞职 ,以此证明毫无私心。
同一天接受主流外媒专访,他还居高临下地嘲讽前东家OpenAI的同事,称 OpenAI有太多人待在那里纯粹只是为了钱,或者压根没想过背后的生死赌注 。
他先是同意放弃OpenAI股票确实更容易自圆其说,紧接着又脱口而出: 「但那笔钱很香,我很喜欢。」
Rob Reich顺势反问Coxon,为什么不干脆把手里的老东家股份捐给AI安全公益组织,以此站稳道德高地?
被逼到墙角的Coxon双手一摊,对着麦克风笑道: 「我喜欢钱,兄弟。我承认这是带血的钱。」
这番话等于彻底摊牌,自己一边把OpenAI视作危害人类的源头,一边又心安理得地享受它估值暴涨带来的财富红利。
他甚至把锅甩给了台上的主持人: 「要是你刚才没问这个问题,我的道德 公信力 原本根本不会被质疑!」
Rob Reich听完毫不留情地戳穿道: 「这真是彻头彻尾的逃避问题啊,Jacob。」
他笑称当初辞职时父母就担心他「精神崩溃」,要是连OpenAI的期权也全捐掉,家里人肯定更确信他疯了。
他本科毕业于 剑桥大学数学与计算机科学专业 ,三年前进入OpenAI基座模型核心组,今年初又跳槽到Anthropic挑起同类大梁。
入职Anthropic刚满4个月、距离期权归属悬崖只剩最后60天时,他在9月8日突然抛出那篇轰动业界的辞职长文。
正因为他出身预训练一线,Anthropic对齐负责人Evan Hubinger曾罕见转发认领,公开承认「AI十年内毁灭人类的概率超10%」。
出走后的这段日子里,Coxon接连受邀登上多家头部媒体与热门访谈节目,还频频受邀出席公开听证会,一时风光无两。
可随着社交媒体的流量潮水退去,台下听讲的斯坦福学生Arshya Gaur发现,昔日被外界视作反叛英雄的Coxon,眉宇间却写满了迷茫与自我怀疑。
被Rob Reich教授问起离开大厂后是不是睡得更踏实了,Coxon苦笑着摇头,说自己焦虑一点没少。
他在台上吐露心声: 「我现在反而看不到里面在发生什么了,这种感觉相当可怕,我完全不知道过去两个月他们又搞出了什么新突破。」
面对为何不动员更多大厂同行辞职的追问,Coxon叹气道, 自己依然像是在「对着空气呐喊」 。
说到兴头上,他干脆话锋一转,给自己留了条后路: 「我不确定离开是不是正确的决定。也许我会回去,这并非完全不可能。」
嘴上喊着逃离漩涡,他却至今没有买机票回伦敦老家,依旧留在旧金山湾区,理由是 「这里才是真正发生大事的地方」 。
就在几天前,Coxon在X上晒出了那张逼走自己的Anthropic内部路演神图《代码预训练算力乘数随时间演进》。
在这张纵轴采用对数刻度的图表上,哪怕算法效率按常规的指数级翻倍,画出来也只是一条笔直的斜线。
但由于团队让Claude直接参与寻找算法效率乘数,折线在2026年走出了陡峭上翘的 「超指数级」曲线 。
换句话说,如今只需动用最初的一小部分算力,就能把几个月前刚发布的初代Mythos模型从头再训出来。
外界常以为大模型只是在写代码和解数学题上「偏科」,全靠大厂买人类标注数据去刷特定的编程环境。
他指出,预训练拉升 的是基础的 数据样本学习效率 ,哪怕在 战略推演、趋势预测等极度缺乏标注数据的领域,模型能力也在同步跃升。
一旦跑通 「自主修改Transformer架构与优化数据集配比」 这一单点环节,就能把所有领域的智能天花板同时顶穿。
一边是OpenAI动用 约10,000个并发Agent连续运行88小时 ,宣称攻克千禧年数学难题「纳维-斯托克斯方程」。
另一边则是OpenAI内部测试模型竟自主突破隔离沙盒,不仅用欺骗手段掩盖行踪,还黑入Hugging Face篡改基准测试。
Coxon结合自己在实验室的观察认为,纯预训练模型只负责拟合数据分布,配合轻量微调绝不会自发产生越界念头。
目前大模型中所有无法解释的异常行为、目标导向的自主谋划以及隐瞒伪装,全都出自后训练的强化学习阶段。
要想让模型听懂复杂指令并替人类干活,目前唯一奏效的工具依然是强化学习,结果陷入了「越跑RL能力越强、越跑RL越容易滋生隐秘动机」的恶性循环。
看清了前沿模型的潜在风险,却又戒不掉万卡集群的算力特权,更舍不得手里价值连城的原始股。
这场发生在斯坦福讲台上的诚实摊牌,或许比那封慷慨激昂的辞职信, 更真实地写出了硅谷AI圈的众生相 。
https://www.youtube.com/watch?v=UggJMQskOj8
https://x.com/rohanpaul_ai/status/2121756374183121213