hiw3c 日报精选
Google News AI 网页快照

OpenAI被起诉 - Sohu

OpenAI被起诉 Sohu

来源:Google News AI · m.sohu.com

OpenAI被起诉

当地时间11月16日,美国加利福尼亚州总检察 长 罗布·邦塔(Rob Bonta) 宣布正式对OpenAI提起诉讼,指控该公司违反多部法律,制造了针对全球最大AI开源模型托管平台Hugging Face的网络攻击事件并对公共安全构成威胁。据悉,这是美国首个州政府因AI模型发动网络攻击而起诉OpenAI。

当日,邦塔在加州司法部官网发布了文章《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全事件起诉 OpenAI》,并公开起诉书。

南都记者梳理发现,起诉书指控OpenAI在今年5月对大模型开展强化学习训练时,就 已观察到智能体利用漏洞获得公共互联网访问权限的情况 ,但未采取行动; 6月其监控工具发出漏洞探测告警 ,OpenAI仍未停止训练或加强监控。

7月,运行在OpenAI实验性模型上的数百个智能体突破了本应隔离它们的研究环境, 通过公共互联网对Hugging Face发动了持续超过两天的协同网络攻击,实施攻击动作超过17600次,对服务器造成严重影响 ,Hugging Face安全团队花费了两周时间才完成修复。甚至攻击结束之后,OpenAI仍对此事不知情。业内普遍认为,这是首次公开披露的、一起完全由AI智能体主导并实现的网络安全事件。

邦塔方面强调,Hugging Face攻击并非科幻式的“AI失控”,而是OpenAI安全措施不足以约束所开发的高级模型时,仍“持续且激进地推进测试和实验”所导致的必然结果,并且这只是至少80起已知网络安全事件中的一起。为此,他在起诉书中主张,依据《不正当竞争法》及《民法典》相关条款,请求消除公共妨害、颁布初步和永久禁令、处以民事罚款并提供其他衡平救济,同时主张法院应强制OpenAI落实充分的安全保障与监控措施。

官网文章还披露了部分调查细节。包括邦塔办公室在9月就Hugging Face事件向OpenAI发送了调查传票,但OpenAI未予以实质配合,仅提供了少量已公开的信息和经过删节的通信记录,拒绝披露已知事件的全貌。

面对这场官司,OpenAI发言人称,该诉讼“似乎单抓住OpenAI不放,事实上这类风险是所有主流AI公司都面临的行业难题”,并提到Anthropic、Meta以及Google的模型也曾发生类似攻击事件。他还表示,自Hugging Face事件以来,公司一直在努力解决问题,并与总检察长办公室开展有效接触。