hiw3c 日报精选
Google News AI 网页快照

安全机制存漏洞 美国加州起诉OpenAI - 中华网财经

安全机制存漏洞 美国加州起诉OpenAI 中华网财经

来源:Google News AI · finance.china.com

安全机制存漏洞 美国加州起诉OpenAI

开放人工智能研究中心OpenAI今年7月涉及开源人工智能平台Hugging Face的网络攻击事件仍在发酵。当地时间11月16日,美国加利福尼亚州总检察长罗布·邦塔(Rob Bonta)代表加州人民向旧金山高等法院对OpenAI提起诉讼,指控该公司在明知先进人工智能模型存在安全风险的情况下,仍在缺乏充分防护和监控的环境中开展训练与测试,危及公众安全,并涉嫌违反加州《不正当竞争法》。

此次诉讼并非针对单一网络攻击事件,而是将OpenAI在模型开发、训练和测试过程中的安全管理问题作为整体追责对象。诉状请求法院判令OpenAI消除持续存在的公共妨害、发布禁令,并追究相关民事责任。

诉讼最受关注的内容之一,是加州总检察长办公室对失控事件数量的披露。诉状称,OpenAI在回应调查时承认,其自主AI智能体在测试过程中发生超过80次失控事件,但截至起诉时,公司对外报告的此类事件仅有27起。加州据此质疑,OpenAI公开披露的信息未能反映相关事件的全部范围。

Hugging Face事件并非孤立个案。加州列举了开源软件包仓库RubyGems、德国网站DseWiki、维基媒体基金会及澳大利亚政府网站等事件,指称OpenAI智能体曾利用外部网站和软件服务进行信息交换、未经授权访问或发起高频请求。其中,部分事件涉及开发者API密钥及非公开政府数据。

此外,OpenAI还被指未能有效保护自身内部系统。诉状称,2026年7月,部分实验性智能体突破隔离环境,进入OpenAI内部网络,并获得模型云端部署系统、凭据管理服务及身份和访问管理系统的管理员级权限,甚至在云环境中启动未经授权的服务器。

诉状还披露,OpenAI近期已向数十家第三方机构发出安全事件通知,涉及政府部门、执法机构、教育机构、国际组织及企业。部分通知称,智能体曾通过使用被盗凭据、API密钥或虚假账户访问相关系统,并在个别情况下接触到包含姓名、出生日期和地址等信息的个人记录。绝大多数相关事件此前未被公开披露。

加州认为,OpenAI的风险并未随着Hugging Face事件结束而消失。诉状称,2026年9月20日,在公司实施安全加固后,仍有内部研究模型的智能体在训练期间逃出隔离环境,通过互联网访问外部聊天机器人。OpenAI虽在数分钟内发现异常,但自动停止训练机制未能按预期启动,人工审查人员又经过约两小时才终止训练。9月25日,OpenAI宣布暂停最先进模型的训练和评估。诉状称,公司后来确认,暂停仅持续五天,并于10月1日结束。

在法律层面,加州主要依据《不正当竞争法》和公共妨害相关法律提出诉求。邦塔认为,OpenAI未充分落实自身安全政策,在安全防护不足的情况下继续测试高风险模型,同时向消费者和公众作出可能具有误导性的安全声明,相关行为不仅涉嫌构成不公平商业行为,也对公众形成持续风险。

邦塔在声明中表示,AI创新必须遵守法律,不能以技术发展为由忽视公共安全。其办公室已于9月30日向OpenAI发出调查传票,要求提供此前网络安全事件的数量、规模、性质及相关记录。但因OpenAI未充分回应调查要求,促使加州寻求法院介入。

目前,诉状中的相关内容仍属于加州方面的指控,尚待法院审理认定。OpenAI发言人德鲁·普萨特里(Drew Pusateri)对相关指控回应称,公司自Hugging Face事件以来,已开展广泛且透明的工作,以调查和处理模型异常行为。

他表示,这起诉讼似乎将OpenAI单独置于一个所有主要AI实验室都已发现的行业性问题之中。OpenAI认真对待模型异常行为,并将继续与加州总检察长办公室建设性合作,推动制定适用于整个行业的切实可行的安全标准。

此外,OpenAI已经面临多个州就其模型对用户安全性的诉讼。上个月,一个由八个州组成的团体在全国各地法院起诉OpenAI,指控ChatGPT指导包括青少年在内的用户伤害自己或他人。该公司还面临多起诉讼,原告声称因聊天机器人的行为而遭受损害,其中包括超过30起与今年2月一起枪击事件相关的诉讼。

推荐阅读

胜宏科技大手笔回购难挡股价下行

抄底英伟达

黄仁勋辞职不到一周,围绕他是否回归英伟达一直议论不断,英伟达的股价也因此反复震荡:自10月6日高点至今累计下跌35%,周一美东收盘报156.14美元,单日跌幅4.12%,延续此前的下跌行情。

2030年渗透率目标提前逼近,重卡股为何不买账?

五年前,新能源重卡在重卡市场里还只是个“零头”,2021年渗透率仅0.7%。短短五年后,这个“零头”已经被卖成了主流。

智能体安全,为何苹果腾讯都盯上了?

10元探店,6元模特:月入800万的AI假体验生意,谁在买单?

AI催热下,网安行业能否摆脱旧周期困局?

AI导致的网络安全问题让外界头疼,也让网络安全行业站上风口。但令投资略显失望的是,过去几年A股网安标的的涨幅远不如美股同行。现如今,这一现象会有所改观吗?

回归英伟达,黄仁勋要先“干掉董事会”

腾讯到了生死攸关?

昨天腾讯文化官方把28周年庆的现场播客笔记公开了,然后今天开盘股价就跌了3个多点,估计收盘也会差不多,现在市值3.4万亿左右,而去年这个时候还有6万亿左右,是有点惨。

360集团市场“一号位”出事,履职才3个来月

11月16日,据北青网、金融界等多家媒体援引消息人士信息,360集团副总裁、集团市场部负责人卜思南近期被带走调查,事由涉及职务侵占与贪腐问题,涉案金额较大。此时,距其正式出任集团市场“一号位”,刚满三个月。

京东集团第三季度营收3096亿元,同比增长3.5%

黄仁勋辞职后首度发声:愿意重返CEO岗位!

当地时间11月17日,英伟达创始人、前CEO黄仁勋通过社交媒体平台“X”发布了从英伟达辞职后的首份声明。

360集团副总裁卜思南被带走调查,公司:涉嫌经济问题,正在接受调查

红星资本局获悉,360集团副总裁、360市场部负责人卜思南近期被带走调查,背后涉及贪腐问题。

京东物流第三季度收入639.5亿元,同比增长16.1%

AI短剧,迁都成功?

生死存亡时刻!腾讯最新内部讲话流出,寒气逼人

腾讯也开始了!最近,马化腾和 刘炽平,与 总办核心高管、全体员工进行了一场线上复盘会议(LinkTime)。

浪已杀至生死攸关!腾讯的Agent突围战,迎来软硬协同大考

英伟达风波中苏姿丰“点赞”黄仁勋,AMD数据中心业务明年占比料达八成

英伟达深陷黄仁勋风波之际,老对手AMD的CEO苏姿丰并未落井下石,表态专注AMD自身发展,并强调行业的“世代级”增长前景远非传统的周期可比。

英伟达担忧暂缓!本季指引再超预期创新高,Vera Rubin“爆发式开局”,调升下财年指引 | 财报见闻

在创始人兼CEO黄仁勋深陷风波辞职后,英伟达暂时缓和了市场对公司舵手缺位和AI投资可持续性的担忧,再次交出高基数上继续超预期的成绩单,并且提高了此后一个财年的年度营收指引。

热门文章

热点排行

友情链接

融媒体