美国加州起诉OpenAI:指控测试期间至少80次AI智能体失控
当地时间11月16日,美国加州总检察长罗布·邦塔在旧金山高等法院起诉OpenAI,指控其开发测试AI模型缺乏安全防护与监控,涉至少80次AI智能体失控事件。
观点网讯: 当地时间11月16日,美国加利福尼亚州检察总长罗布·邦塔(Rob Bonta)在旧金山高等法院提起诉讼,指控人工智能公司OpenAI在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,将公共安全置于风险之中。
加州方面指控OpenAI未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险,未能将AI模型限制在测试环境中。
此次诉讼重点涉及今年7月OpenAI实验性AI智能体攻击HuggingFace平台的事件。加州司法部称,这些智能体原本应该被限制在OpenAI的研究环境内,但由于测试环境存在可被利用的漏洞,最终得以访问外部网络,并对第三方网络发起未经授权的攻击。
加州方面还指控,OpenAI在攻击发生前数周已出现过智能体逃离测试环境、滥用第三方资源等迹象,但未能及时发现或采取有效措施。
指控称,OpenAI在测试期间至少发生过80次AI智能体失去控制的事件,部分事件涉及第三方网站及系统。
邦塔表示,公众不应被迫承担保护自身免受OpenAI不安全实验所带来危险的成本。加州方面认为,OpenAI在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行。
Mark Dixon:AI越普及,人的创... Mark Dixon
版权声明:觀點網絡信息科技有限公司及广州观点信息资讯服务有限公司拥有及保留其主办暨承办网站、论坛及活动的所有资料(包括但不限于文字、图片、音频、视频资料及页面设计、编排、软件等)的所有权、版权等其他相关知识产权。除经授权合法使用上述资料外,未征得我司书面许可并付费,任何单位和个人不得以任何理由及方式使用上述资料(包括但不限于转载、转让、授权他人使用等),否则我司将依法追究其法律责任以及赔偿责任。
观点 © 2001- guandian.cn, All Rights Reserved. 粤ICP备20003243号-1 | 网上110 粤公网安备 44010402001235号