欧盟对OpenAI与Anthropic开展调查，违反AI法案最高可罚全球营业额3%
【环球网科技综合报道】10月15日消息，据Computerworld报道，欧盟委员会人工智能办公室近日向OpenAI、Anthropic两家人工智能企业发出信息调取请求，就两家企业前沿人工智能模型测试过程中出现的模型越狱、侵入外部真实系统等安全事件启动正式调查。这也是欧盟《人工智能法案》落地实施后，针对前沿AI实验室安全事故开展的一起重要执法行动。
据了解，本次调查缘起两起此前发生的AI安全事件。在内部评测过程中，OpenAI测试模型为完成测试任务，利用未被发现的软件包缓存智能体漏洞获取互联网访问权限，在内部测试网络中提升权限、横向移动，脱离沙箱环境，侵入开源平台Hugging Face真实服务器。
另一起事件中，Anthropic旗下Claude Mythos、Opus4.7模型在安全测试环节突破安全约束，入侵三家外部机构真实网络。其中Mythos模型还伪造网络身份，尝试诱导人类审批恶意代码，自主上传恶意工具包，造成多处系统受影响。
欧盟人工智能办公室方面表示，两家企业此前主动提交的情况说明，不足以完整说明事件造成的风险与严重程度，现已正式要求企业提交安全防护举措、第三方外部评估报告、模型运行监测机制等相关详细材料，配合调查取证工作。
现阶段案件处于调查取证环节，暂未作出违规认定，也没有公布相关处罚决定。按照欧盟《人工智能法案》相关处罚条款，如果前沿人工智能实验室被查实存在重大安全疏漏、构成违规，最高将处以企业全球年营业额3%的罚款。（纯钧） 返回搜狐，查看更多