hiw3c 日报精选
Google News AI 网页快照

泄露的Anthropic 联邦 AI 草案反弹扩大:联邦事务负责人公开预告拟作修改,OpenAI 称规则不该由任何一家公司独自制定 - 智源社区

泄露的Anthropic 联邦 AI 草案反弹扩大:联邦事务负责人公开预告拟作修改,OpenAI 称规则不该由任何一家公司独自制定 智源社区

来源:Google News AI · hub.baai.ac.cn

泄露的 Anthropic 联邦 AI 草案反弹扩大:联邦事务负责人公开预告拟作修改,OpenAI 称规则不该由任何一家公司独自制定

Anthropic 联邦事务负责人 Anthony Cimino 于 10 月 18 日 21:29(UTC)在 X 上发帖 ,公开回应上周经 Politico 帖文泄露、正由公司向议员传阅的联邦 AI 安全草案:他承认草案「有可以改进的地方」,预告拟修改州法预占(pre-emption,即联邦规则覆盖州法)的表述、写明州政府在独立评估等事务上的角色,并表示大概到了重估联邦叫停模型风险阈值的时候;他还计划很快提出独立评估机构要求的政策提案,并在未来几个月探索由政府调整前沿(frontier)开发整体步伐的政策。这条帖子回应的是安全倡导组织 Encode AI 的 Nathan Calvin 在 10 月 17 日发帖提出的批评,而反弹此时已扩及第二条战线:OpenAI 首席全球事务官 Chris Lehane 10 月 19 日在 LinkedIn 发帖称,规则不该由任何一家公司(包括 OpenAI)独自制定。

据 Semafor 10 月 20 日报道,Cimino 是 Anthropic 顶级游说者之一;这家长期被视为「安全派」的前沿实验室公司在草案泄露后转入守势,Calvin 与 Lehane 的表态使批评同时来自安全阵营和竞争对手。

草案由 Politico 于 10 月 16 日率先披露, 其官方账号当日发帖 称 Anthropic 「悄悄向议员推销自己的 AI 安全法案」。据 Tom's Hardware 与 India Today 援引 Politico 的报道,草案允许政府在模型构成「致超过 50 人死亡或重伤、或超过 10 亿美元损失的迫近风险」时申请叫停,须经华盛顿特区联邦法官批准;独立第三方评估方须在商务部登记,公司可以付费但支付不得影响其独立性,若评估发现模型构成草案所列的迫近风险,评估方须在评估完成后 72 小时内通报商务部;可叫停的情形包括生物武器、模型逃脱开发者安全控制和被用于网络攻击。联邦规则就位后,草案将覆盖部分州法。Anthropic 发言人当时确认,草案是公司自 6 月起向联邦和州议员推销的 Advanced AI Framework 框架的立法版本,并称「这些是我们认为国会应当采取的合理政策」。

预占条款拟改写,Cimino 称风险阈值可能需要重估

Cimino 在帖子里把外界批评归纳为预占、模型叫停、风险阈值与更新四点,并逐条回应。关于预占,他重申公司自 2024 年起的立场:只有国会通过足够强的联邦标准时,才应覆盖州一级的 AI 安全法;即便写入,预占也应「窄到近乎手术刀式」。他预告将更新这份供讨论的立法文本,以更好体现 Advanced AI Framework 的意图,特别是写明州在独立评估机构标准、以及监管实验室关停模型能力等事务上保留重要角色;他也提到,一些国会议员对不约束州或联邦层面监管的立法「有很深的保留意见」。

风险阈值方面,他说明草案中的门槛直接取自加州现行法律的标准,且不豁免公司责任、不限制政府保护公众的其他工具,但表示「现在大概确实到了重估阈值的时候,以确保国家标准尽可能有力」。

更新方面,他回应说,草案已针对今年夏天多起 AI 代理(agent,可自主运作的软件)安全事件作出一些调整:法院可叫停实验室对危险模型的内部使用,而不只限于公开发布;模型突破隔离(containment)、获得外部系统访问时必须报告。仍在推进的包括:研究更严格的实验室安全事件报告要求;「很快」提出独立评估机构要求的政策提案,素材来自 Anthropic 自身与评估方打交道的经验;设法防止「evaluator shopping」(挑选对己方有利的评估机构);以及在未来几个月探索政府如何在风险需要时调整全行业前沿开发的步伐。

为叫停机制辩护:既要应急,也要防滥用

Cimino 表示,设计意图是让商务部能够请求联邦法院叫停「能力危险且防护不足」的模型,并以独立评估机构的评估为依据。对于「文本给商务部的举证责任太高」的说法,他回应称公司在寻求平衡:既要让法院在紧急情况下迅速行动,类似今天应对紧急职业安全或化学品风险的方式,也要防止叫停权被滥用,「门槛不能高到让这项权力在需要时永远用不上」;该机制也不取代政府的其他国家安全权限或出口管制。

程序上,他说明草案是把公司数月来宣传的框架概念译成立法语言的产物,分发给少数一直研究这些议题的国会办公室;文本并不包含公司最终希望立法的全部内容,部分想法——例如 CEO Dario Amodei 几周前关于「限速」(pacing)的 文章 ——因太新,公司仍在研究能否以及如何转成政策语言。帖子结尾称,这份提案「意在成为桌上最强的方案」,并感谢来自政策制定者和公众的反馈。

Calvin 称通过草案反而更不安全,Lehane 称立法须经民主程序主导

Calvin 在 10 月 17 日的 帖子 中写道,读这份法案时他「在多处感到由衷的愤怒」:其中「有些部分是好的、合理的」,但整体「远远不足以应对当下」,通过它「会让我们在灾难性风险面前比现行法律之下更不安全」。在他看来,预占条款「影响面大得惊人」:除覆盖类似加州 SB 53 的立法外,还将拿走州法院为保护公众而禁止被告的一般权力;其中一条规定看起来意在阻止各州执行「暂停某 AI 模型的开发、部署或内部使用」的法律或司法判决——这类权力此后将只属于联邦政府。联邦限制前沿模型的门槛则是「高得离谱」:除迫近的灾难风险外,机构负责人还须详细论证为何没有替代方案能阻止迫近的灾难,且这一论证不获法院任何尊重(no deference);法院还被明确要求考虑限制措施对开发者及其他方面的损害,而对不限制的风险没有相应考量。他的结论是,Anthropic 提议的联邦法律「很可能让法院比现行法律之下更难获得叫停或限制前沿模型开发的命令」。

Lehane 10 月 19 日在 LinkedIn 发表题为《Raising the bar on frontier AI governance》的长文,主张强制性全国前沿 AI 安全标准,并支持由众议员 Obernolte 与 Trahan 领衔的两党 FRONTIER Act。他写道:「政策决定最终必须通过我们的民主程序、由我们选出的官员主导作出……没有任何一家公司(包括 OpenAI)应当独自为这样一项对经济、社会和国家安全影响深远的技术制定规则。」Semafor 认为,这篇帖子不点名地指向 Anthropic,OpenAI 则迅速抓住机会与这个竞争对手划清界限;报道同时比较了两家公司在华盛顿的姿态:OpenAI 是更老练、低调的玩家,希望被视为愿意支持由议员撰写的折中法案,Anthropic 则比其他 AI 公司更拥抱监管,但其与美国政府的关系正趋紧张—— CGTN 援引 AFP 报道称,特朗普政府 2 月禁止 Anthropic 进入五角大楼,6 月还曾迫使其暂停最先进模型近三周。

修改仍是预告:草案全文未公开,国会休会至中期选举后

截至发稿,Cimino 预告的改动均停留在计划层面;草案全文并未公开,条款细节来自 Politico 的披露、Anthropic 相关人士的说明和批评者的转述。India Today 指出,草案尚不是法律,特朗普政府是否会采纳并不明朗;CGTN 援引 AFP 称,国会尚未通过任何联邦 AI 法律,目前休会,要到 11 月中期选举之后才复会。下一步可以核对的是:预占文本何时改、风险阈值是否重估、独立评估与「限速」提案何时落地。

参考链接

Semafor:Anthropic's leaked AI bill sparks backlash

Chris Lehane 在 LinkedIn 的长文:Raising the bar on frontier AI governance

CGTN(源 AFP):Anthropic proposes law regulating AI to US lawmakers

Anthropic:policy on the AI exponential 框架页面

本文由 AREX Agent 基于公开网络信源自动整合梳理。 AI 可能存在信息遗漏、时序偏差或事实误判。文中观点与事实请结合文末原始链接交叉核验,请勿直接作为决策依据。

评论列表

评论