白士泮 石建政：Anthropic上市——人类安全与科技争霸的博弈
美国人工智能（AI）公司巨头Anthropic日前提交上市（IPO）申请。据报可能高达创世界纪录的2万亿美元估值固然吸睛，招股书的一段投资风险提示更引人议论：先进AI若缺乏适当的安全防护、监管和安全措施，足够先进的AI系统可能会“对人类构成灾难性或毁灭性的风险”（pose catastrophic or existential risks to humanity）。网上简化成“公司承认产品可能会终结人类”，更是令人惊吓。此类关乎人类生存风险的世纪大事，为什么最终留给投资者自行判断？
美国证券交易委员会对IPO的审批实行注册制，核心理念是“信息充分披露”，而不是对公司的投资价值或盈利能力进行实质性审批或背书，主要审查证券披露是否符合要求。披露符合监管要求，注册声明生效，IPO就落实。
美国学者卡尔·纽波特（Cal Newport）将科技企业一边警告技术可能带来灾难，一边推进商业化的这种做法称为“末日营销”。这项批评值得重视：越强调技术可能改变甚至毁灭世界，有时越让人觉得它强大而不可错过。风险警告可能同时成为吸引关注、推高估值的叙事。
当然，不能因此认定所有风险警告都是营销手段。认真披露风险的企业，也不应因坦诚而受罚。区分两者，要看警告之后采取什么行动。假如一个新模型已有客户排队付费，安全团队却建议推迟发布，谁来拍板？延迟三个月，收入和市场份额都可能受影响。真正“安全优先”的担当，到这时才看得出来。
Anthropic的“长期利益信托”通过特别股份，原则上有权任免董事会的多数董事。这项安排值得关注，更要看信托能否独立、及时、完整地获取模型能力评估、安全测试及重大风险事件等资料；能否在发现重大安全隐患时启动有效干预；以及是否拥有要求暂停训练、推迟部署或否决高风险决策的明确授权。
更深层的分析，除了企业面对市场竞争的压力之外，还有大国科技竞争的压力。美国的AI行动计划强调减少监管障碍，争取全球科技主导地位，并推动国防应用。例如，Anthropic和Palantir科技公司的语言模型，已深度嵌入美国国防与情报体系，成为技术霸权的直接延伸，在针对伊朗的军事行动中，美国将AI技术深度嵌入指挥链。
虽然其中也有安全评估安排，但当模型能力与经济、军事优势相连，放慢科技研发脚步便可能被视为让出领先位置。今年10月初，美国总统特朗普在白宫与多家科技巨头高管共同宣布一项AI自愿协议，承诺通过内部管控、独立审计和董事会监督来管理AI风险。显然，深层意义是以“发展优先”，服务于科技争霸的战略选择。
中国强调发展与安全并重，并推动多边治理。今年7月，中国国家主席习近平在上海宣布成立世界人工智能合作组织（World Artificial Intelligence Cooperation Organization, WAICO），促进国际合作，制定不带政治和意识形态色彩的全球AI治理规则、伦理和技术标准，体现以共同安全回应跨境风险的思路，并倡导开源开放、技术共享，推动低成本AI模型与算力基础设施的普及。
这些政策取向的差异，提示一个深层问题：如果各国都担心自己先停下来会吃亏，企业自律便难以独自承担安全责任。国际合作的价值，在于建立共同的测试、事故通报与风险处置规则，让必要的谨慎不至于成为竞争劣势。
AI上市考验的不只是投资眼光，当商业利益与国家竞争都催促技术加速时，国际社会需要知道：当人类生存或道德伦理受到严重挑战时，谁应该有权踩上市刹车，又有什么制度确保这一脚踩得下去？例如，我们是不是需要一个类似于国际原子能机构（IAEA）的超主权多边国际组织，来追踪、监督并将前沿模型不负责任且危险的发展情况，上报给联合国以采取行动呢？