被指为保持领先而忽视安全，Anthropic CEO发长文回应
10月21日，人工智能独角兽Anthropic首席执行官达里奥·阿莫代今日发表近两千字的长文，公开驳斥外界关于该公司为了争夺技术霸权而忽视安全的指责。
这场争论始于AI安全倡导机构Encode AI首席战略官内森·卡尔文的一篇批评文章。卡尔文在社交媒体上列举了Anthropic过去一年的九项具体举措，指责该公司在追求超级智能的过程中逐渐降低了安全标准的优先级，背离了早期的安全承诺。这些质疑主要集中在Anthropic近期签署了总额超过5000亿美元的巨额算力协议，以及在后续模型开发中越来越依赖自身AI系统Claude等行为。
面对指责，阿莫代表示，虽然他认可卡尔文在AI安全领域开展的研究，但无法认同其批评的核心逻辑。阿莫代阐述了公司的核心策略，即所谓的向上领跑路线。他认为，Anthropic只有始终保持在行业的最前沿，向外界证明负责任的技术开发不仅可行而且有效，才能够切实拉高整个行业的安全门槛。在阿莫代看来，如果脱离了前沿梯队，企业将失去通过技术实践来保障整个行业安全的影响力。
为佐证自身立场，阿莫代同样列出了九项具有实质安全成效但商业代价极高的内部决策。其中包括将性能强大的Mythos模型仅限向少数网络安全合作伙伴开放，以及全面限制向中国国有企业销售旗下AI服务等举措。
但在部分争议问题上，阿莫代也承认团队有改进空间。本月早些时候，科技媒体曝光了Anthropic向美国国会分发的一份法案草案，多位业内人士指出，该草案将提高联邦政府阻拦危险AI模型的难度，削弱现有的监管审查能力。对此，阿莫代表示公司始终在努力做得更好，但他依旧对Anthropic迄今为止的安全记录感到自豪并坚持现有路线。
这场高管论战发生的当下，大模型安全风险正引发整个行业的高度神经紧绷。今年9月，多位研究人员曾发出末日级预警，担忧失控的技术可能在未来十年内对人类生存构成实质威胁。面对日益增长的公众担忧，包括阿莫代、OpenAI首席执行官萨姆·奥特曼以及马斯克在内的科技行业领袖曾达成默契，承诺统一步调、放慢前沿模型的研发速度，为安全制衡机制的建立预留足够时间。
与安全争论形成鲜明对比的是Anthropic凶猛的商业扩张节奏。该公司上周刚公布了第三季度达到168亿美元的亮眼营收，市场普遍预期其将在11月正式挂牌上市，目标估值高达2万亿美元。在庞大的商业化进程与激烈的行业竞争面前，前沿实验室如何在安全承诺与扩张野心之间维持平衡，正面临来自监管层和学界的更严苛审视。 返回搜狐，查看更多