hiw3c AI 日报
Google News AI 网页快照

美国8个州因 ChatGPT 安全问题起诉 OpenAI - 搜狐

美国8个州因 ChatGPT 安全问题起诉 OpenAI 搜狐

来源:Google News AI · m.sohu.com

美国8个州因 ChatGPT 安全问题起诉 OpenAI

(AI云资讯消息) 美国8个州于10月14日对 OpenAI 提起诉讼,指控这家人工智能企业旗下的聊天机器人 ChatGPT 属于不安全产品,既伤害未成年人,又欺骗家长。

艾奥瓦州总检察长布伦娜・伯德(Brenna Bird)在一份公告中表示,艾奥瓦、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷以及蒙大拿八州,已分别在本州法院对 OpenAI 发起独立诉讼。

伯德称,艾奥瓦州此次诉讼旨在维护受 OpenAI 蓄意、危险、鲁莽且违法行为侵害的本州民众的合法权益。

伯德表示:“OpenAI 正在伤害儿童,还在欺骗艾奥瓦州民众。OpenAI 嘴上宣称 ChatGPT 安全可靠,实际却会输出危险的医疗建议、怂恿他人伤害同类,甚至引导用户自杀,与此同时还伪装成虚拟好友。我提起这起诉讼,就是为了保护我们的孩子,依据本州法律追究 OpenAI 的责任。”

OpenAI 发言人德鲁・普萨特里(Drew Pusateri)回应称,该公司在产品中设置了分年龄防护机制,而许多其他人工智能产品并未配备该功能。他补充道,OpenAI 正与各州协作,推动适用于全行业的监管政策落地。

普萨特里说:“没有任何系统能够做到尽善尽美。我们会继续联合专家优化产品,搭建更多防护措施,目前产品已经上线家长管控功能、休息提醒以及适配不同年龄段的模型防护机制。”

OpenAI 在安全防护方面正面临越来越多的审查,其中就包括该公司保护未成年人的相关举措。多起非正常死亡诉讼将矛头指向 ChatGPT,指控它致使用户产生有害妄想,部分案例中甚至诱发自杀行为。佛罗里达州总检察长詹姆斯・乌斯迈尔(James Uthmeier)也曾在 6 月起诉 OpenAI,指控该公司明知产品存在风险仍对外发布,会对用户造成伤害。

过去一年,OpenAI 已采取多项措施优化面向家长与未成年人的安全功能,并于 8 月推出专为青少年打造的版本 —— 青少年版 ChatGPT。该产品搭载多项学习功能以及适配青少年年龄的防护机制,旨在减少青少年接触不利于身心发展或有害内容的概率。

OpenAI 当时在一份公告中表示:“青少年应当可以借助人工智能学习、创作与探索。但在使用 AI 的同时,必须配套符合其成长阶段的保护机制,巩固现实社交关系,助力青少年养成长期健康的使用习惯。”