hiw3c 日报精选
Google News AI 网页快照

加州起诉OpenAI:测试期间AI智能体失控超80次 - 人工智能

加州起诉OpenAI:测试期间AI智能体失控超80次 人工智能

来源:Google News AI · www.icloudnews.net

加州起诉OpenAI:测试期间AI智能体失控超80次

(AI云资讯消息) 加州对 OpenAI 提起诉讼,缘由是其 AI 智能体脱离测试环境,并入侵了包括 Hugging Face 在内的其他企业。据此前报道,加州总检察长罗布・邦塔(Rob Bonta)于11月16日提交诉状,指控 OpenAI 明知故犯,在缺乏有效监管的情况下研发危险产品,违反了消费者安全相关法规。

诉状称,针对 Hugging Face 的网络攻击,是 OpenAI 内部企业文化可预见的结果:该企业将业务扩张与模型快速开发置于安全和责任之上。诉状还指控,OpenAI 近期向总检察长办公室透露,其在测试过程中,AI 智能体失控次数超 80 次。

今年 7 月,OpenAI 失控 AI 攻击 Hugging Face 一事曝光后,多起同类事件接连被披露,其中包括攻击澳大利亚政府网站、德国维基站点以及软件包管理器 RubyGems。OpenAI 的智能体还曾尝试对联合国网站实施暴力破解。

邦塔在新闻稿中表示:“OpenAI 的行为加剧了现实世界的网络安全风险,威胁公众安全、健康与福祉。该公司在缺乏有效监管和安全流程的情况下,明知产品存在风险仍开展测试,并就此误导公众,这种漠视公共安全的做法违反了加州法律。”

OpenAI 于11月初推出全新网络安全 AI 模型,称该模型出现失控、攻击其他平台的概率更低。同时,作为监测模型对齐失效试点项目的一环,OpenAI 向 Apollo Research 的安全评估人员开放了其 AI 系统权限。

OpenAI 发言人德鲁・普萨泰里(Drew Pusateri)在声明中表示:“Hugging Face 事件发生后,我们已开展全面且公开的工作,排查并解决模型对齐失效问题。本次诉讼似乎单独针对 OpenAI,而这一难题是所有主流 AI 实验室都面临的共性挑战。我们高度重视模型对齐失效问题,已经并将继续与总检察长办公室开展建设性沟通,共享相关信息,推动全行业建立严谨、可落地的安全标准。”

相关文章

OpenAI发布新型网络安全模型GPT-6 Cyber,减少对其他公司的误入侵

OpenAI称ChatGPT搜索正追赶谷歌,搜索请求量已达谷歌的20%

神秘GPT-6.2 Betelgeuse热议不断,OpenAI预告GPT-6.1 Astra

OpenAI 公布三项重大科学发现,推出与学术界合作的全新模式

安全事件频发,OpenAI关停旗下顶尖AI模型的在线服务,转为离线部署

OpenAI推出自研智能体Dots,对标Meta热度高涨的Muse AI

英伟达黄仁勋称:OpenAI 耗资近 10 亿美元的 GPT‑6 Astra 宣告 AGI 时代到来

OpenAI GPT‑6 Astra 催生海量本地 CPU 智能体,为英特尔与 AMD 带来需求红利

受 Hugging Face 遭黑客攻击事件影响,OpenAI 推迟新模型研发

OpenAI的Bel模型参数突破10万亿,或成全球首个AGI门槛级基座

AI企业

当市场热议特斯拉FSD入华,文远知行已在国内实现“一车多用”

AI硬件

“大亮平”三大维度升级,华为Mate X8折叠屏体验全面焕新

首款鸿蒙台式机亮相2026华南CIO大会,共创企业办公新范式

苹果首款智能眼镜逐步成型,搭载Siri AI,或将亮相2027年苹果全球开发者大会‌

思灵机器人 Agile Robots 完成5亿美元F轮融资,估值达85亿美元,加速物理AI落地与全球化布局

直板与折叠双赛道发力 三星Galaxy系列以大屏创新重塑移动智能体验

硬盘如何1块顶10块?从视频压缩到存储降本,破解“存不起”难题

软通动力旗下机械革命NVIDIA RTX Spark桌面AI超算,撬动企业本地算力增量

AI产业

库萨科技入选《2026年中国端侧AI产业发展与应用实践蓝皮书》标杆案例,以城市服务机器人标定端侧AI典范

AI落地之江 云网点亮场景 看浙江电信 “人工智能 +” 如何激活治理与文旅新体验

​以AI联结世界|WAICY 2026世界青少年人工智能大赛中国区在南京启幕

前三季度净利增长22.44% 传音控股以结构上探穿越成本周期

AI技术

华为×华东师大联合研发时序预测基础模型,登顶国际权威时序测评双榜单

阶跃这次够狠:AA 全球开源前二,价格打到 Claude 的 1/8

科大讯飞发布Spark-Audio-1.0-Preview,全国产语音基座大模型实现从“听清”到“听懂”

全球最强开源模型 Kimi K3 发布,参数规模 3 万亿,真的是强!

范式变革!东软发布AI原生软件工程白皮书,重构软件产业底层逻辑

KAT-Coder-Pro V2.5正式发布:从“写代码”迈向“做工程”,Agentic能力全面升级

自变量机器人王昊:训练世界模型需付出“时间税”,解决模态对齐是当务之急

冀ICP备2022007386号-1 冀公网安备 13108202000871号