hiw3c 日报精选
Google News AI 网页快照

OpenAI启动首阶段嵌入式安全评估 向最多20万研究人员免费开放ChatGPT - 观点网

OpenAI启动首阶段嵌入式安全评估 向最多20万研究人员免费开放ChatGPT 观点网

来源:Google News AI · www.guandian.cn

OpenAI启动首阶段嵌入式安全评估 向最多20万研究人员免费开放ChatGPT

OpenAI与Apollo Research等四家独立机构启动首阶段嵌入式安全评估,并扩大ChatGPT学术研究人员计划,为最多20万名研究人员提供免费权限,11月23日开放申请。

观点网讯: OpenAI宣布与Apollo Research、Goodfire、METR和Transluce四家独立机构合作,启动首阶段嵌入式安全评估,允许外部专家访问内部模型、源代码、训练数据及监控系统,审查模型对齐和安全防护措施。

四家机构分工:Apollo Research重点评估模型是否会暗中违背开发者意图;Goodfire研究模型内部机制及训练监控;METR审查大规模强化学习训练中的模型失调行为;Transluce评估后训练阶段的安全测试质量。

评估人员将在必要时进入OpenAI办公场所,通过专用设备访问敏感资料。OpenAI基金会董事会下属独立监督委员会将全程监督并接收完整报告。

评估机构保留独立发布结果的权利,但OpenAI可要求删除机密信息或延迟披露安全风险。OpenAI还计划于2027年进一步扩大评估范围。

OpenAI宣布扩大“ChatGPT学术研究人员计划”,为全球最多20万名研究人员提供免费使用ChatGPT的权限,下一轮申请将于11月23日开放。OpenAI同时表示,将向全球最多20万名科学家扩大前沿模型的免费使用权限,并提供培训和支持,申请通道于11月23日开放。默认情况下,OpenAI不会利用通过该计划共享的数据来训练模型。

在安全工具方面,OpenAI在现有保护措施基础上推出新的图像分类器,可检测潜在的儿童性虐待材料,包括AI生成的内容,并通过OpenAI API向经审核的机构免费提供分类器访问权限。

Mark Dixon:AI越普及,人的创... Mark Dixon

版权声明:觀點網絡信息科技有限公司及广州观点信息资讯服务有限公司拥有及保留其主办暨承办网站、论坛及活动的所有资料(包括但不限于文字、图片、音频、视频资料及页面设计、编排、软件等)的所有权、版权等其他相关知识产权。除经授权合法使用上述资料外,未征得我司书面许可并付费,任何单位和个人不得以任何理由及方式使用上述资料(包括但不限于转载、转让、授权他人使用等),否则我司将依法追究其法律责任以及赔偿责任。

观点 © 2001- guandian.cn, All Rights Reserved. 粤ICP备20003243号-1 | 网上110 粤公网安备 44010402001235号