加州起诉OpenAI 数百AI智能体失控攻击网络
【大纪元2026年11月17日讯】(大纪元记者王君宜综合报导)美国加州政府近日起诉人工智能公司OpenAI,指控该公司在开发和测试高风险人工智能(AI)模型时,安全措施不足,导致多起网络安全事件,危及公众利益。
加州检察长罗布·邦塔(Rob Bonta)周一(11月16日) 宣布 ,已在旧金山高等法院起诉OpenAI,指控其违反加州《不正当竞争法》,并构成公共滋扰(Public Nuisance)。
检方指出,今年7月,由OpenAI实验性AI模型驱动的数百个自主智能体突破内部测试环境,通过公共互联网攻击开源AI平台Hugging Face,攻击持续约两天半。
加州检方称,这并非孤立事件。OpenAI在测试期间至少80次失去对自主智能体的控制,相关事件还涉及未经授权访问软件代码数据库、政府数据库及OpenAI自身内部系统。
检方指控,OpenAI明知实验存在安全风险,仍在防护和监督不足的环境中持续测试,并涉嫌向公众误导性宣称相关实验受到严格控制。
加州检察长办公室此前已于9月启动调查,并向OpenAI发出调查传票。此次诉讼是调查后采取的进一步法律行动。
对于此次诉讼,OpenAI发言人回应称,公司已调查Hugging Face事件,公布技术及独立调查报告,并加强安全防护措施。该公司认为,此次诉讼将整个AI产业共同面临的安全挑战集中归咎于OpenAI,并表示愿与加州检察长合作制定安全标准。
AI安全监管压力加大
除网络安全问题外,OpenAI等AI企业还面临版权、产品责任、消费者保护及个人资料使用等法律争议。今年10月,8个州组成的两党检察长团体分别提起诉讼,指控ChatGPT曾引导包括未成年人在内的用户伤害自己或他人。
此外,OpenAI还因加拿大不列颠哥伦比亚省塔姆布勒里奇镇今年2月发生的校园枪击案面临30多起民事诉讼。原告指控,OpenAI早已发现枪手在ChatGPT上的暴力言论,却未及时通知警方。OpenAI表示,当时认为相关内容尚未达到警方通报标准,已加强安全防护措施。
目前,美国联邦政府和国会正推动加强AI安全监管。今年6月,总统川普(特朗普)签署行政令,要求加强政府及关键基础设施的AI安全防护,并评估先进AI模型的网络安全风险。11月,白宫AI工作组进一步讨论网络攻击防范及安全事故报告机制。
美国国会部分议员已提出多项AI安全监管法案和政策框架,包括要求先进AI模型接受独立安全审计、开发商报告重大安全事故,以及确保AI系统具备人工紧急关闭功能等,以加强对高风险AI技术的监督。