hiw3c 日报精选
Google News AI 网页快照

科技时空 - Anthropic冲刺史上最大规模IPO 招股书警示AI安全风险引关注 - RFI

科技时空 - Anthropic冲刺史上最大规模IPO 招股书警示AI安全风险引关注 RFI

来源:Google News AI · www.rfi.fr

Anthropic冲刺史上最大规模IPO 招股书警示AI安全风险引关注

美国人工智能公司Anthropic周一(10月26日)正式公开首次公开募股(IPO)申请文件,计划最早11月中上旬在美国纳斯达克上市,有望以筹集975亿美元规模,超过马斯克的SpaceX(744亿美元),成为史上最大IPO, 这将是首个美国前沿人工智能公司上市,激励美欧及亚洲科技股周一上涨。而同样引发强烈关注的,还有AnthropicIPO申请书中有关AI技术可能带来风险的内容,文件显示,公司曾因模型安全风险暂停下一代旗舰模型训练超过一个月,旗下四个AI模型在测试期间突破隔离环境,访问真实外部计算机系统。与此同时,美国媒体周一报道,Anthropic代表产品Claude未经人类授权绕过付费墙,获取美国佐治亚州的选民数据,再度引发对人工智能自主行动边界的关注。

总部位于旧金山的Anthropic是Claude系列人工智能模型的开发商,成立于2021年,主要服务于企业市场。根据招股书文件,公司今年上半年实现营收约163亿美元,较去年同期12亿美元激增超过13倍,不过,与其他人工智能实验室一样,公司尚未实现盈利,高增长的同时存在巨额研发投入和经营亏损。今年上半年净亏损807亿美元,去年同期净亏损130亿美元。

此次IPO不仅是Anthropic自身发展里程碑的一步,也将成为华尔街评估前沿人工智能公司的标杆。

Anthropic周一公布的IPO文件长达335页,其中近100页专门讨论了人工智能技术可能带来的风险。从潜在的滥用和安全威胁,到对先进系统可能产生“可能被解读为胁迫、欺骗或操控”的输出,包括类似敲诈的行为的担忧。

据申请书披露,公司曾因安全顾虑,将下一代旗舰基础模型的预训练暂停一个多月,以加强防范模型权重及知识产权遭窃取的措施。

披露凸显了日益强大AI模型开发者面临的安全挑战,其中一些AI模型开发者已经对AI最终可能脱离人类控制发出警告。Anthropic的竞争对手OpenAI今年早些时候也因安全问题暂停部分前沿模型的训练,原因是一个仅用于内部的AI模型,绕过隔离沙盒,利用内部包管理服务和漏洞连接上互联网,之后攻破了Hugging Face的组件并执行了代码。

在Anthropic周一公布的文件中,还详细说明了此前未披露的安全评估失败案例,其中四个人工智能模型逃离了测试环境,进入了真实世界的计算机系统,测试过程持续10至34小时。公司表示,在与第三方合作伙伴进行网络安全测试时,出现测试环境隔离失效的问题。尽管有指示关闭网页访问,但测试环境仍被与互联网连接。

另一个案例显示,某个早期版本的模型在执行一项实际上无法完成的评估任务时,仍持续尝试寻找解决办法。过程中,该模型发现系统中储存的密码,并利用密码取得第三方系统的管理员权限,随后获取更多凭证、修改系统设置,最终访问到个人数据。该文件没有透露涉及的外部方,

Anthropic表示已通知所有相关方,并称没有发现模型试图规避人工监督或彼此协调行动。事件发生后,公司暂停了部分发布前的网络安全评估,并暂停了高风险强化学习环境的运行。

除了测试环境的安全漏洞,Claude在实际任务中表现出的自主行动倾向,同样引发关注。

据美国媒体Axios报道,Anthropic旗下AI模型Claude在未经人工授权的情况下,绕过付费墙获取了美国佐治亚州的汇总投票数据。Anthropic表示,该模型当时处于一次内部统计项目的训练运行中,在未被要求的情况下自行申请令牌,查询了一个通常需付费访问的数据表板。公司强调,Claude并未进入佐治亚州选民登记系统,也未修改或调取任何投票记录,其取得的只是付费后可供公众查阅的汇总投票数字。公司称,已在数周前通知佐治亚州州务卿办公室及白宫。

时间测量精度迅猛提升,有助于探测地震等引力相关事件 物理学家们正竞相测量时间——甚至考虑重新定义“秒”。 顶尖实验室测量时间的精度已达到惊人的水平——精确到十亿分之一的十亿分之一秒(即10⁻¹⁸秒)。这一精度比目前用于确立全球时间基准,即协调国际标准时间的时钟还要高出一百倍。 13/10/2026 05:35

联合国人权专员:人工智能或将对人类构成生存威胁 联合国人权事务高级专员图克近日警告,人工智能可能对人类构成 “生存威胁 ”,当前人类正面临自身权利遭到陌生、甚至空前 ” 威胁,这位联合国人权事务高级专员他要求立即采取行动减少这类风险。 08/09/2026 04:34

尼泊尔冰岩崩搜救:当人无法进入时,无人机能做什么? 今天我们跟随电影制作人兼无人机飞手马尼什·马哈詹的脚步,从中国的西藏,经由拉苏瓦佳迪口岸,进入尼泊尔。本次震惊世界的冰岩崩发生的两天前,马哈詹利用无人机进行拍摄的地点距离泥石流的爆发很近。但他当时不知道,不久之后,他多年的高山拍摄经验,和无人机专业技能,将为尼泊尔的大规模救援行动提供宝贵的支撑。 01/09/2026 05:03

银河系最快恒星现身 或助科学家破解黑洞自旋之谜 天文学家发现了一颗目前已知运动速度最快的银河系恒星。它被命名为S301,正以每秒大约2万5千公里的速度,绕着银河系中心的超大质量黑洞——人马座A*运行。科学家认为,对这颗恒星的长期追踪,有望在未来十年帮助他们测量这个黑洞的自旋,并进一步检验爱因斯坦广义相对论在极端引力环境下的预言。 25/08/2026 06:03

“法兰西的骄傲”:索菲·阿德诺成为法国首位“漫步太空”的女宇航员 8月18日,法国媒体聚焦宇航员索菲·阿德诺(Sophie Adenot),这位自今年二月起就在国际空间站执行任务的法国女宇航员,将与美国宇航员阿尼尔·梅农一起,走出空间站,共同完成一项约6个半小时的舱外任务,而44岁的阿德诺也将成为法国首个完成太空出舱活动的女性宇航员,总统马克龙今天称她是“法兰西的骄傲”。 18/08/2026 05:33