OpenAI落地欧盟AI合规要求，ChatGPT生成文本全面植入隐形水印
【环球网科技综合报道】10月6日消息，据techcrunch报道，OpenAI宣布将开始在欧盟境内为ChatGPT和Codex生成的文本添加不可见水印，以履行欧盟《人工智能法案》的透明度义务。
在发布公告的同时，OpenAI联合宾夕法尼亚大学与耶鲁大学研究人员发布技术报告，公开了名为“textGrain”的水印方法。报告通过示例演示了如何利用密钥对下一个词的预测进行排序以补全句子，将大量此类信号叠加后，检测器仅凭文本与密钥即可判断内容是否由AI生成。
OpenAI同时提醒，缺乏水印并不能证明文本由人类创作——文本可能因过短或经过大量编辑而丢失水印，也可能来自其他公司的AI系统。水印可以表明OpenAI的系统生成或处理了部分段落，但不能反映其中融入了多少人类判断、编辑或创造力。
在OpenAI之前，竞争对手Anthropic已于两个月前宣布对Claude生成的文本添加水印，并在全球范围内推行。该举措一度引发部分Claude用户强烈反对，他们认为指令、背景和决策均由用户提供，Claude仅是工具。
另据《华尔街日报》2024年报道，OpenAI此前已开发文本水印功能却迟迟未发布，部分原因在于担忧用户转而选择提供“无水印”服务的竞争对手。
目前，包括Anthropic、谷歌、Meta、微软和OpenAI在内的多家人工智能企业已承诺遵守欧盟针对AI生成内容的行为准则。（青云） 返回搜狐，查看更多