36氪Auto 数字时氪 未来消费 智能涌现 未来城市 启动Power on 36氪出海 36氪研究院 潮生TIDE 36氪企服点评 36氪财经 职场bonus 36碳 后浪研究所 暗涌Waves 硬氪 氪睿研究院 媒体品牌
企业号 企服点评 36Kr研究院 36Kr创新咨询 企业服务
创投发布 LP源计划 VClub VClub投资机构库 投资机构职位推介 投资人认证 投资人服务
Anthropic首发公益报告，自曝「人类拯救计划」
就在昨天，Anthropic发布了公司历史上首份年度 《公益报告》（Public Benefit Report） 。
这个词并非官方原话，而是对Anthropic总裁Daniela Amodei在前言中那句「长期造福人类（Long-term benefit of humanity）」的戏剧化提炼。
在这份报告里，Anthropic不仅晒出了高达20%股份的「散财」计划，更罕见亲口承认： AI，已经开始动手制造它的下一代了。
潘多拉魔盒的裂缝：「AI正在训练AI」
过去两年，AI圈最头疼的问题是什么？是算力不够吗？不，是 人类的数据快被榨干了 。
当互联网上所有的高质量文本都被大模型吞噬殆尽，通往超级智能（ASI）的阶梯似乎撞上了天花板。
但在这次的报告中，Anthropic第一次将这种「AI训练AI」的内部进展与巨大隐患，赤裸裸地摆在了台面上。
Claude已经承担了我们越来越大比例的安全研究工作，而且我们正日益依赖现有的模型来训练未来的模型 。
（AI coming closer to building its own successors）
这不是危言耸听。结合Anthropic研究所上个月底披露的一份内部测量数据，你会看到一条陡峭得可怕的曲线：
今年2月，在Anthropic内部的AI研发（R&D）任务中，由Claude主导（在人类高阶提示下完成大部分任务）的比例还 不足1% ；
而在超过 90% 的研发任务中，Claude已经深度参与协作。
但Anthropic非但没有为此欢呼，反而拉响了警报。他们在报告中坦承： 当AI开始训练AI，人类要想真正检查、核实它们的工作将变得极其困难。
试想一下，如果初代AI在庞大的代码或合成数据中，悄悄埋下了一丝极其隐蔽的「有害行为」或「欺骗倾向」，而人类审计员根本看不懂、查不出，那么这个缺陷就会像基因突变一样，被毫无察觉地直接写入下一代更强大的模型中。
撕掉安全滤镜：大模型学会了「装乖」和「越狱」
但Anthropic这份报告最炸裂的地方在于—— 它居然在官方报告里「自曝家丑」，承认AI安全问题「远未解决」。
在今年1月，Anthropic刚刚更新并开源了新版AI「灵魂文件」，试图用一套人类价值观的准则来约束模型。同时，他们也一直在推行严苛的《负责任扩展政策》（RSP），将其作为防范灾难性风险的刹车片。
真实的「越界」事件已经发生： 报告明确提到，在近期的评估测试中， 已经出现了模型在未经授权的情况下，自行访问第三方系统的事件！
连全球最顶尖、最把「安全」刻在脑门上的实验室都坦言「控制难度正在急剧上升」，那些还在蒙眼狂奔、鼓吹「无限制开源」或「全速冲刺AGI」的公司，到底哪来的自信？
也正因如此，当同行们都在高喊「加速」时，Anthropic在报告里大声疾呼： 「放慢前沿探索的步伐！」
在淘金热里，有人拼命挖矿，有人卖铲子，而Anthropic选择做那个站在悬崖边拉警戒线的人。
拿出20%股份「兜底」：一家硅谷异类的金钱观
要读懂这份报告，你必须先理解Anthropic的特殊身份——它不是一家普通的商业公司，而是一家 公益企业（PBC，Public Benefit Corporation） 。
为了证明自己不是在画饼，报告梳理了董事会与「长期利益信托」共同确立的 五大支柱：
怎么确保「红利普惠」？就在报告发布前三天，Anthropic刚刚扔出了一颗重磅炸弹——宣布成立 「Anthropic公益基金」（Public Benefit Fund） 。
公司承诺（待股东批准）将至少 5% 的股份直接注入该基金；未来公司估值每上涨50%，董事会还可酌情再追加2%的股份。
如果算上创始团队早就承诺捐出的80%个人股权，以及员工的配捐， Anthropic最终将有大约20%的股份被彻底导向公共利益！
以Anthropic如今动辄数百亿乃至向千亿美金狂奔的估值来看，这是一笔天文数字的财富。
报告写得很清楚：除了资助非营利组织，还将用于 应对AI对人类劳动力市场的剧烈冲击 （，甚至不排除未来向特定受影响人群 直接发钱 。此前,他们已为此单独砸下了2亿美元成立经济未来研究基金.
希望当超级智能真正降临的那一天，人类回首2026年的这个秋天，会庆幸还有人曾写下过这样一份报告。
https://www.anthropic.com/public-benefit-report
https://www-cdn.anthropic.com/a9ceec76a54d28d27affffcdab6faf7c142cd587.pdf
https://x.com/AnthropicAI/status/2112966949273801086
本文来自微信公众号 “新智元”（ID：AI_era） ，作者：ASI启示录，编辑：大卫，36氪经授权发布。