AI 日报hiw3c.com

史上最贵的"自律"来了?谷歌、OpenAI、Anthropic抱团组建AI安全局,我嗅到了不一样的味道 - 搜狐网

Google News AI m.sohu.com 网页快照

史上最贵的"自律"来了?谷歌、OpenAI、Anthropic抱团组建AI安全局,我嗅到了不一样的味道

9月24日,一则消息在科技圈炸开:谷歌、OpenAI、Anthropic三家前沿AI实验室,正在推进组建一家名为SAFA(前沿AI标准局)的AI安全标准机构,计划今年年底或2027年初落地。

同一时间,Anthropic CEO阿莫代伊在联合国安理会视频发言,表示"将视需要放缓AI开发速度";而大洋彼岸,美国政府明确反对任何全球性AI监管机制,表态"不会扼杀一项规模将超过工业革命的技术"。

一边高喊"慢一点、更安全",一边联手给自己立规矩—— 这场看似矛盾的操作背后,藏着AI巨头们一盘很深的棋 。

今年7月,Google DeepMind CEO哈萨比斯公开提议:参照美国金融业监管局(FINRA)的模式,成立前沿AI标准机构。所谓FINRA模式,就是"政府监督下的行业自律组织"——华尔街自己管自己,但头顶上有个SEC盯着。

三家公司随后以工作组形式定期会晤,最初寻求的是 联邦监督下的公私合作机制 。结果呢?白宫的行政令草案在内部未能获得足够支持,夏天结束前已被实际搁置。联邦层面的监管推进受阻,这条路走不通了。

于是,三家公司退而求其次:政府不管,那我们自己来——在没有政府监管的情况下独立运作,年底前落地。

看懂了吗? SAFA不是巨头们野心膨胀的产物,而是监管真空下的"次优解",甚至是不得已而为之 。联邦监管缺位、全球协调受阻,安全压力又不会凭空消失——生物武器滥用风险、失控系统的担忧,是真金白银的舆论和经营风险。与其等着别人给自己套笼子,不如自己先画好笼子,还能把笼子画成对自己有利的样子。

阿莫代伊在联合国说了一句话值得反复咀嚼:"我们将视需要放慢速度,以确保后续发布的每一项AI技术都是真正安全的。"

注意措辞—— "视需要" 。这给了极大的解释空间:什么时候需要,需要多慢,由谁判断?答案显然是Anthropic自己。

竞争对手奥尔特曼罕见地站在同一阵营,同样认同"把控前沿AI研发节奏"。但别忘了背景:两家公司都在为外界期待极高的重磅IPO做准备,且均未披露上市时间表。

这就形成了一个精妙的平衡: 对外,"安全优先"的姿态可以对冲估值风险 ——IPO投资者最怕的就是灾难性事故引发的监管重锤,提前示好"我们会踩刹车",等于给上市故事加了一道保险杠; 对内,"视需要"三个字保留了完全的裁量权 ,该跑的时候一步不会慢。

竞争对手握手言和、共同呼吁"放缓",历史上并不多见。上一次类似场景,往往出现在行业格局初定、头部玩家想要提高门槛的时刻。

SAFA的思路本身并不含糊:不搞笼统的伦理宣言,而是做具体的测试与审计体系——部署前第三方安全测试、事故报告规则。据称三家公司还接触了Sriram Krishnan(前a16z合伙人、前白宫AI高级政策顾问)出任CEO。

经合组织(OECD)早就警示过,高昂的固定成本、算力资源不足和基础设施集中,已经让企业进入AI市场困难重重。如果SAFA的标准成为事实上的行业准入门槛,新增的合规成本对巨头是毛毛雨,对小型实验室却可能是压垮骆驼的一根稻草—— 安全标准,正在变成一种新的护城河 。

这才是最值得投资者警惕的地方:自律组织表面上是安全议题,实质上是标准制定权的争夺。谁掌握标准,谁就掌握定义"什么叫安全"的权力,也就掌握了竞争对手的生死线。SAFA能否获得更广泛行业认可、能否厘清与政府监管的分工、能否避免职能重叠,将决定它是"行业公共品"还是"头部俱乐部"。

AI治理正在进入一个微妙阶段:全球协调受阻,联邦监管搁置,行业自律补位。对资本市场而言,这意味着未来一段时间,AI公司的"安全叙事"将直接影响估值定价——能把安全故事讲成上市加分项的,和被迫合规抬升成本的,将是完全不同的两种命运。

巨头们抱团自律,究竟是行业走向成熟的标志,还是新一轮话语权洗牌的开始?答案,可能就藏在SAFA年底落地时的成员名单里。