9月30日,特朗普与约二十余位AI高管在白宫东厅共进午餐后,走出白宫,向记者宣布了一份自愿性“AI协议”。
签署方是六家公司:Anthropic、OpenAI、谷歌、Meta、xAI和英伟达。
特朗普称它“几乎像一部宪法”,是应对AI风险的“一种保护形式”。然而据英国《金融时报》报道,这份 两页纸的文件在东厅仓促起草,其中甚至包含一处拼写错误 。
值得注意的是,表面上,这是一份关于AI安全的两页纸文件、缺乏法律效力;但从协议的具体要求、被否决的替代方案以及英伟达近期的产品动作来看,它传递出的更重要信号是: 白宫和行业头部公司并未选择“放缓AI”的路径,而是试图把安全要求嵌入持续扩张的AI基础设施投入中。
AI测试、审计与监控等“安全合规”要求将需要更多算力,并催生推理、光互联新需求,英伟达或成最大赢家。黄仁勋更联手扎克伯格否决强监管,并当面质问Anthropic掌门人Amodei为何要在公共场合过度宣扬AI风险言论。
协议写了什么?
第一,建立“多层控制与审计”机制。 具体要求是部署强健的内部控制系统,持续监控先进模型带来的网络安全和生物安全威胁,并确保模型不会以"非预期方式"入侵其他系统。
第二,与独立外部审计机构合作。 签署方须主动接受第三方评估,由外部机构核验内部控制措施是否真正有效。
这三项义务指向一个共同结果:每一次模型发布,都必须经历一轮测试、监控和外部核验的完整流程。
有多少是真正的新东西?
据报道,Anthropic、OpenAI和谷歌DeepMind此前已在发布前对先进模型进行能力评估,且除英伟达外,其余公司均在2024年首尔AI峰会后签署了类似承诺。媒体评价称,“协议可能迫使此前尚未开放独立评估访问权限的签署方——尤其是英伟达——跟进落实外部审计要求。换言之,协议对头部实验室意义有限,对其他公司则是新约束。”
LawAI美国法律与政策董事总经理Mackenzie Arnold的评价直接: “它在'感觉层面'最有意义。它没有授权任何机构……去真正制定有约束力的标准。”
批评者更不客气。科技监督项目(Tech Oversight Project)的Sacha Haworth说,这份协议让CEO们 “自己给自己的作业打分,绕开了真正有意义的AI安全护栏”。
不过,保守派律师Joel Thayer提出了另一个角度:“你不能发表公开声明说要做某件事,然后实质上不兑现。这对消费者本质上是一种欺骗。”他还注意到,联邦贸易委员会(FTC)主席Andrew Ferguson出席了当天的午宴。“这些面向公众的承诺……简直就是FTC执法的味道。”
美国FTC在协议发布次日即扩大了对AI公司的调查范围,将Anthropic、OpenAI等纳入审查。
“安全”不等于“放缓”:这才是老黄真正赢得的东西
市场对“安全监管”的本能反应是定价放缓——逻辑是:测试拖慢发布节奏,发布节奏放慢压缩算力需求。
InvestorPlace分析师Luke Lango认为这个逻辑是反的。 白宫协议未要求企业放慢模型开发,而是将重点放在内部评估、外部审计和风险控制上。
这也使“AI安全”在产业链层面出现了另一种解读:安全机制可能意味着更多测试、监控和模型运行,而不一定意味着更少的计算资源投入。 如果每次模型发布都必须触发一轮测试、监控和同行评审,那么“安全合规”本身就是一笔持续的算力支出,而不是对算力支出的压制。
9月28日,英伟达联合逾100家合作伙伴推出Open Agent Safety Platform,将开源访问控制与运行在独立芯片上的监控层相结合——该监控层可在不嵌入AI系统内部的情况下对其进行监控。黄仁勋的表述简洁直接:AI的潜力只有在安全与能力同步解决的前提下才能实现。
英伟达已承诺向光互联企业Lumentum投入20亿美元,用于扩大产能并深化数据中心光学联合研发——这是把“安全叙事”直接转化为硬件合同的具体动作。
Lango进一步指出,需求结构正在发生方向性转变:从GPU密集的预训练,转向推理与测试阶段。后者更依赖数据传输效率和多任务协调,而非原始算力。他预计这一转变将在未来6至12个月内主导需求走向。
Lango认为,自我监管不会终结AI资本开支周期,它只是改变了钱流向哪里——从预训练GPU流向推理、测试和互联基础设施。 正如Amodei在会后所说,处理风险的具体机制“仍在讨论中”。
Marvell:专注数据中心网络互联。 Arm:今年3月推出首款自研量产芯片AGI CPU,搭载最多136个Neoverse V3核心,由台积电3纳米工艺制造,Arm称其每机架性能是x86平台的两倍以上。 Lumentum:专注数据中心光互联。随着GPU数量激增、芯片间通信密度上升,数据中心正加速将铜互联替换为光学方案。
幕后交锋:黄仁勋当面质问Amodei
据《华尔街日报》援引知情人士消息,午餐结束后,在罗斯福厅一个更小范围的会议中,包括英伟达CEO 黄仁勋在内的多位高管,当面质问Anthropic CEO Dario Amodei:为什么要在公开场合对AI能力和风险发出如此极端的警告?
Amodei此前多次公开批评白宫和竞争对手淡化安全问题,并警告AI模型可能发动网络攻击、造成大规模失业,这让他在华盛顿和硅谷都成了众矢之的。
当天午宴上,当Amodei再次提出安全顾虑时,扎克伯格的回应是:解决这些问题最好的方式,就是作为一个行业切实落实这些原则。
扎克伯格和黄仁勋:这场局的真正推手
据《华尔街日报》知情人士透露, 事情的起点是上周的国宴——扎克伯格和众议院议长Mike Johnson在宴会上相邻而坐,谈起了AI政策。随后,扎克伯格和黄仁勋开始协调各家CEO,特朗普和Johnson则组织了这场午宴。
扎克伯格是协议最终成形的关键人物。他频繁与特朗普及商务部长Howard Lutnick沟通,后者主管政府的一个关键AI测试部门。
今年夏天,Anthropic、OpenAI和谷歌曾联合推动一个类似FINRA(金融业监管局)的AI自律组织方案。但据此前报道,扎克伯格、黄仁勋和马斯克告诉特朗普,他们担心这会将过多权力集中在头部AI公司手中,该方案随即被放弃。
值得注意的是,被否决的FINRA式方案其实也包含了与最终协议类似的内容——更强的内部评审和外部测试机制。两套方案在技术要求上高度重叠,真正的分歧在于:由谁来掌控这套机制。黄仁勋和扎克伯格选择的答案是:行业自己。
Anthropic的处境:一边修复关系,一边准备IPO
Amodei当天对记者说:“如果行业和政府携手合作,我们可以安全地赢。”特朗普称赞他“很棒”。两人周日刚在白宫共进晚餐,这是两人的首次面对面会面。
据报道,该公司正在为IPO做准备,目标估值约2万亿美元。与此同时,它今年早些时候经历了两场与政府的正面冲突:两款模型因安全问题被迫下线长达两周半,以及因AI军事用途争议遭五角大楼列入黑名单。
此次协议的直接背景,是Anthropic的Mythos等模型发布后引发的一系列AI网络攻击事件。
周二,特朗普与六巨头齐聚白宫,决定未来AI发展方向 龙玥 09/29 11:09
报道称Anthropic IPO延期至11月,华尔街审视日益严苛:从"稳赚不赔"到"不再确定" 鲍奕龙 09/19 06:19
扎克伯格拒绝放缓AI,而是呼吁“独立第三方评估” 李佳 09/16 23:52
“AI交易”周一要遭暴击?三巨头支持“放缓”、OpenAI推迟IPO引热议 张雅琦 09/13 12:17
死敌罕见联手!马斯克、Altman支持Dario Amodei“全球放缓AI”呼吁 张雅琦 09/13 10:05