Anthropic 开发开源方法，验证 AI 模型身份

前言

Anthropic 正在开发一套开源系统，用来确认特定输出是由哪个 AI 模型生成。这项计划在周二发布的博客文章中介绍，旨在应对日益严峻的问题：用户可能无法判断某项服务是否真的使用了它宣称采用的模型。这套名为 FlashProve 的系统旨在提供研究人员所称的“可证明推理”——一种将输出与特定模型关联起来的密码学证明。这个构想是让用户能够查验答案的来源，而不必只依赖服务提供商的说法。本文将说明 FlashProve 预计如何运行、它可能帮助解决哪些情况，以及研究人员已公布与尚未公布的事项。这项计划仍处于研究阶段；Anthropic 表示，没有计划在自家实验室或其他地方部署这套系统。

懒人包

FlashProve 是一套开源研究系统，旨在验证特定输出是由哪个 AI 模型生成。它将运用密码学证明，并以公开发布的模型指纹为依据，让模型身份可供查验——即使模型是由服务提供商自行运行也一样。这种方法可帮助用户识别与实际使用模型不符的说法，包括未披露的模型替换，或第三方对 AI 辅助工作的宣称。这些指纹的设计不会泄露模型权重，因此闭源模型的提供商也可能参与，而无需公开这些私有参数。Anthropic 已发布技术规格与可运行的代码，但研究仍在进行中，且尚未安排部署。

正文

Anthropic 正在开发 FlashProve，这是一套开源系统，用来验证特定输出背后的 AI 模型身份。这项计划聚焦于一个用户难以回答的问题：当 AI 服务返回答复时，用户如何知道答复确实来自服务提供商宣称使用的模型？FlashProve 旨在提供证据，将输出与特定模型关联起来，而不是要求用户毫无查证地接受服务提供商的说法。

研究人员将核心概念描述为“可证明推理”。在此语境下，这个词指的是一种密码学证明——也就是所谓的数学保证——证明特定模型生成了特定输出。如果系统如预期运行，用户便能查验答案是否由与所宣称身份相符的模型生成。目标不只是给答复贴上标签，而是建立模型与其输出之间可供验证的关联。

研究人员将这个概念比作密码学电子邮件签名。签名能帮助收件人判断消息是否来自其声称的发件人。同样，FlashProve 的设计是让用户确认 AI 输出是否来自服务所标示的模型。这个比喻有助于说明系统预期扮演的角色：它是用于验证真实性的工具，并不保证答案正确、安全或有用。

其中一项动机是模型替换的可能性。服务提供商可能宣称由某个特定模型处理请求，却暗中使用另一个模型。研究人员指出两种可能的诱因：公司可能改用更便宜的模型以降低成本，或使用更昂贵的模型，让性能结果看起来更好。FlashProve 的设计旨在抵御将某个模型伪装成另一个模型的企图，包括试图欺骗的对象正是打造并运行该模型的实验室。

这项疑虑之所以重要，是因为个人与组织可能会根据自己认为参与服务的模型来做决策。用户可能因为某项服务宣称具备特定能力水平而选用它。如果底层模型遭到悄悄更换，用户可能无法获得预期的服务。验证机制可提供模型身份的相关证据，帮助用户判断服务提供商的描述是否与实际生成输出的模型相符。

FlashProve 也可能有助于评估第三方对 AI 辅助工作的说法。研究人员举例说，开发者可能表示某个软件库曾由前沿网络安全模型扫描漏洞，或某家公司可能声称其商业计划已获适当模型批准。在这类情况下，用户可能希望验证所称的模型是否真的执行了该任务。与输出绑定的密码学证明可作为查验这些说法的依据。

要让系统运行，AI 实验室需要为其发布的每个模型公开一个“指纹”。之后，这些指纹将与特定输出比对，并通过密码学方式验证。概括而言，指纹旨在作为特定模型的参照，让人能够查验输出的来源。因此，研究人员提出的方案有赖参与的实验室为其模型提供这些参照资料。

这项设计的一个关键之处，在于指纹不会泄露模型权重。权重是有助于决定模型行为的内部数值。开发闭源模型的公司，包括 Anthropic 和 OpenAI，都会将这些参数保密。研究人员表示，发布指纹并不要求实验室公开这些权重。这一区别可能让系统能够与商业模型搭配使用，同时保留服务提供商最有价值的私有资产。

研究人员也表示，FlashProve 的设计力求轻量，验证工作可在本地设备上进行。本地验证可能让用户无需每次查验都依赖另一个中央服务。公告并未声称系统已广泛部署，或所有实际挑战都已解决；相反，它将这项设计定位为持续进行中的研究，并分享相关材料供他人检视。

作为公告的一部分，研究人员发布了详细的技术规格，以及系统各部分的可运行代码。这些资料以开源许可公开于 GitHub。公开设计与代码，让其他研究人员和开发者有机会检视这套方法、测试其组件，并提出改进建议。开放访问对验证系统尤其重要，因为人们对其主张的信心，在一定程度上取决于其方法是否能够接受审查。

Anthropic 强调，FlashProve 并非已完成的研究计划。研究人员表示，此次公告分享的是阶段性进展，并邀请其他人以此为基础继续开发。他们没有计划在 Anthropic 或任何其他实验室部署 FlashProve。这一区别很重要：此次发布介绍的是一项研究提案与可运行的组件，而非用户目前可依赖、用来验证模型输出的正式服务。

更广泛来说，FlashProve 关注的是 AI 服务中的信任与问责。如果系统能提供证据，说明输出由哪个模型生成，用户或许就更有能力评估服务提供商的说法与第三方的主张。同时，模型身份只是评估 AI 结果的一个方面。即使有证明显示答案由特定模型生成，也不能单凭这一点确定答案正确，或该模型适合执行该任务。FlashProve 提出的贡献范围较为有限：它旨在让输出背后的模型身份更容易验证，同时保护模型权重不被公开。

重点摘要表