hiw3c 日报精选
Google News AI 网页快照

OpenAI开放内部模型供四机构评估 学术免费权限扩至20万 - 观点网

OpenAI开放内部模型供四机构评估 学术免费权限扩至20万 观点网

来源:Google News AI · www.guandian.cn

OpenAI开放内部模型供四机构评估 学术免费权限扩至20万

OpenAI与Apollo Research等四家机构启动嵌入式安全评估,学术计划扩至最多20万名研究人员、前沿模型向最多20万名科学家开放,申请均于11月23日开放,并推出检测儿童性虐待材料的图像分类器。

观点网讯: 11月17日,OpenAI宣布与Apollo Research、METR、Goodfire和Transluce四家外部机构签约,首次开展成体系的“嵌入式安全评估”。外部研究人员将按任务需要,接触尚未发布的模型、训练过程中的中间版本、源代码、训练数据和内部监控记录,检查AI是否出现危险行为,以及现有安全措施能否发现这些问题。

四家机构各有分工。METR将检查OpenAI迄今规模最大的一次强化学习训练,寻找内部测试和监控系统可能漏掉的异常行为;Apollo Research负责调查AI是否会暗中违背开发者意图,甚至试图破坏安全机制,以及这些行为能否被发现;Goodfire将派研究人员分析模型内部的计算信号,监测训练过程,排查异常行为并帮助改进模型;Transluce则检查OpenAI的安全评测本身,看现有测试能否有效发现模型欺骗、操纵和其他违规行为。

接触敏感资料的外部研究人员需要在OpenAI办公室使用公司设备工作。各机构可以独立发布研究结果,但OpenAI有权删去涉及机密的信息。董事会下属的安全与保障委员会则能查阅未经删节的完整报告。OpenAI还计划于2027年进一步扩大评估范围。

同日,OpenAI宣布扩大“ChatGPT学术研究人员计划”,为全球最多20万名研究人员提供免费使用ChatGPT的权限。下一轮申请将于11月23日开放。

OpenAI另表示,将向全球最多20万名科学家扩大前沿模型的免费使用权限,并提供培训和支持。申请通道于11月23日开放。默认情况下,OpenAI不会利用通过该计划共享的数据来训练模型。

在安全工具方面,OpenAI在现有保护措施基础上推出新的图像分类器,可检测潜在的儿童性虐待材料,包括AI生成的内容。在早期测试中,该分类器标记的图像数量减少48%。

Mark Dixon:AI越普及,人的创... Mark Dixon

版权声明:觀點網絡信息科技有限公司及广州观点信息资讯服务有限公司拥有及保留其主办暨承办网站、论坛及活动的所有资料(包括但不限于文字、图片、音频、视频资料及页面设计、编排、软件等)的所有权、版权等其他相关知识产权。除经授权合法使用上述资料外,未征得我司书面许可并付费,任何单位和个人不得以任何理由及方式使用上述资料(包括但不限于转载、转让、授权他人使用等),否则我司将依法追究其法律责任以及赔偿责任。

观点 © 2001- guandian.cn, All Rights Reserved. 粤ICP备20003243号-1 | 网上110 粤公网安备 44010402001235号