Anthropic开发AI模型身份验证系统
Anthropic发布开源系统FlashProve，通过密码学证明验证AI输出是否来自特定模型，可防止AI公司偷换低成本模型或虚报性能。系统要求各AI实验室发布模型"指纹"，不会泄露模型权重，当前仅为研究阶段，尚无部署计划。
据Anthropic周二发布的一篇博客文章介绍，该公司正在开发一套开源系统，用于验证某一特定输出究竟是由哪个AI模型生成的。这套系统名为FlashProve，旨在提供研究人员所称的"可证明推理"——一种加密证明，本质上是一种数学层面的保证，能够确认某个输出确实来自特定模型。该系统的目的是让用户能够确认自己收到的答案，真的来自他们认为自己正在使用的那个模型。
类似于加密电子邮件签名能让收件人确认邮件确实来自声称的发件人，FlashProve能够抵御冒充者试图将一个模型伪装成另一个模型的行为，即便这个冒充者就是构建和运行该模型的实验室本身。研究人员特别指出，这套系统可以用来防止AI公司暗中替换为更廉价的模型以削减成本，或替换为更昂贵的模型以虚报其性能表现。
FlashProve还可以用来验证第三方关于某项特定任务由某个高级模型完成的说法。研究人员写道："一位开发者可能声称其软件库经过了某个前沿网络安全模型的漏洞扫描，或者一家公司可能声称其商业计划已获得某个适当模型的审批通过。用户该如何验证这些说法呢？"
该系统要正常运作，需要AI实验室为其发布的每个模型公布一个"指纹"，之后可以将该指纹与具体输出进行匹配并通过加密方式进行验证。至关重要的是，这些指纹并不会泄露模型的权重——即决定模型行为方式的内部数值，而Anthropic和OpenAI等闭源模型厂商都对这些权重严格保密。这意味着各实验室可以发布指纹而不必放弃其最有价值的资产，从而使该系统也能够适用于商用模型。该系统设计上也力求轻量化，验证过程可以在本地设备上完成。
在此次发布中，研究人员公开了该系统各个组成部分的详细技术规范和可运行代码，并以开源许可的方式在GitHub上公开提供。该系统的相关研究仍在持续进行中，目前Anthropic或其他任何实验室都没有部署这套系统的计划。
研究人员在发布文章中解释道："这篇研究文章旨在分享中间阶段的研究进展，而非一份已经完成的研究议程。我们明确地分享这些内容，目的是希望其他人能够审视我们已经做的工作，并将其运用起来、加以改进。"