Anthropic 在据称由阿里巴巴关联方进行的大规模 AI 模型抽取后敦促美国采取更强有力的措施
前言
背景:Anthropic,一家知名的 AI 开发者,公开指控与阿里巴巴有关的运营者对其 Claude 模型进行了有记录以来最大规模的能力抽取活动。该公司将这种被称为 模型蒸馏 或抽取的行为,界定为不仅仅是知识产权纠纷。在 6 月 10 日致参议院委员会领导人的信中,Anthropic 敦促国会采取更严格的保障措施,包括收紧出口管制、扩大情报共享,以及对进行大规模未授权模型抽取的公司施加惩罚。本文总结了 Anthropic 的主张、涉及的技术与政策议题,以及其向美国立法者提出的建议。
要点摘要
关键要点:Anthropic 指称与阿里巴巴有关的行为者对 Claude 展开了大规模的蒸馏活动,使用数万个伪造账户生成了数百万次互动。 Anthropic 正敦促国会 收紧出口管制、扩大与 AI 公司的情报共享、澄清关于信息共享的反垄断规则、堵塞数据中心访问的漏洞,并对大规模抽取施加处罚。该公司将此问题框定为经济与国家安全的双重关切。
正文
Anthropic 在 6 月 10 日致美国参议院银行、住房与城市事务委员会的信中,描述了该公司所称针对美国前沿 AI 模型的已知最大规模蒸馏活动。根据 Anthropic 的说法,与阿里巴巴及其 Qwen AI 实验室相关的运营者在 4 月 22 日至 6 月 5 日期间,对 Claude 聊天机器人产生了约 2,880 万次互动。该公司声称这些互动是使用近 25,000 个它分类为“伪造”的账户产生的,意即这些账户并不代表合法的自然用户。
在技术上,Anthropic 描述的行动属于蒸馏或抽取攻击:对手大量查询一个强大的模型以观察其响应,然后使用那些响应来训练或调整自己的系统。Anthropic 断言,查询特别瞄准 Claude 的先进能力——包括具代理性的推理、软件工程协助与长期规划——这些能力若要在前沿模型中独立开发,将耗费大量时间与成本。
从 Anthropic 的角度来看,该关切有三个主要维度。首先是经济不平衡:当外部行为者在未投入训练此类系统所需的算力、数据与研究的情况下捕捉到前沿模型的行为时,他们便在未承担相关成本的情况下分享了美国投资的回报。Anthropic 主张这颠倒了支撑美国 AI 领导地位的经济逻辑,实际上补贴了竞争者。
其次是国家安全:Anthropic 将大规模蒸馏框定为可能加速对手的军事与网络能力的因素。如果某一行为者从美国开发的模型中抽取了先进的推理或规划能力,并将其整合到受国家支持的实验室使用的系统中,这可能会缩小或逆转美国及其伙伴目前的技术领先优势。
第三是法律与伦理问题:Anthropic 指称这些行动违反了其服务条款与知识产权权利。该公司承认,蒸馏与模型压缩在业界内是用以创建更小或更高效模型的正当技术,但它在传统、经各方同意的蒸馏与使用欺骗性访问方法进行的大规模抽取之间做了区分。
为了应对这些关切,Anthropic 提出数项立法与监管行动请求。它敦促国会:
- 加强对先进 AI 芯片与算力资源的出口管制,使外国行为者更难获得运行或训练大型模型所需的硬件。
- 扩大并正式化前沿 AI 公司与美国政府机构之间的情报共享,以便更快识别并应对如蒸馏活动等威胁。
- 澄清反垄断规则,允许就蒸馏与滥用进行负责任的信息共享而不触发反竞争审查,使公司能协调防御措施。
- 堵塞允许外国公司访问海外数据中心或其他能促成大规模抽取之基础设施的漏洞。
- 对被发现从事大规模未授权模型抽取的公司施加惩罚。
Anthropic 强调产业与政府之间协调行动的必要性,主张当活动涉及大量查询与复杂的检测规避时,仅靠技术防御是不足的。该公司还提到它今年早些时候提出的先前指控,指称若干中国 AI 开发者——DeepSeek、Moonshot AI 与 MiniMax——使用约 24,000 个伪造账户生成了超过 1,600 万次与 Claude 的互动。
Anthropic 主张的批评者指出,蒸馏与相关技术在 AI 研究与产业开发中是既有做法。有些观察者认为公司在训练过程中有时会依赖其他模型的输出,且被接受的模型压缩与非法抽取之间的界线可能不明确。Anthropic 回应说明了合法、获授权的蒸馏与其所描述通过欺骗进行的大规模、未授权捕捉前沿模型能力之间的差别。
这场辩论具有更广泛的影响。今年四月,联邦法院的证词显示 xAI 在训练其 Grok 系统时部分使用了 OpenAI 的模型,凸显跨模型影响的普遍性。因此,决策者必须权衡相互竞争的目标:在保护知识产权与国家安全利益的同时,维持合法研究实践与创新流动。
华盛顿已在采取措施以保护美国的 AI 领导地位。例如,本月的一道行政命令扩大了以 AI 为驱动的网络安全倡议,此举回应了关于如何在与中国的竞争中保持优势的更广泛关切。Anthropic 向国会的呼吁是这场演变中的政策对话的一部分:它请求立法者将大规模模型抽取视为一项战略风险,并部署法律、监管与技术工具来应对。
任何立法回应都必须在艰难的权衡之间寻路。收紧出口管制可以减缓对手,但也会影响国际合作与商业供应链。扩大私人公司之间的信息共享会引发反垄断与隐私问题,监管机构需要澄清。以及为蒸馏设定适当的惩罚,需要明确定义何谓未授权抽取与合法的模型训练与改进。
Anthropic 的信函与公开声明旨在通过将大规模蒸馏呈现为一项紧迫问题来影响这场对话,该问题值得国会关注。立法者是否会采纳 Anthropic 的全部建议尚待观察,但此事件凸显了在前沿 AI 技术周边,运营安全、贸易政策与国家安全考量正汇聚在一起。
关键见解表
| 方面 | 描述 |
|---|---|
| 指控 | Anthropic 声称与阿里巴巴相关的运营者对 Claude 展开了已知最大规模的蒸馏活动,使用约 25,000 个伪造账户生成约 2,880 万次互动。 |
| 技术风险 | 蒸馏可以在不从零开始训练前沿模型的情况下复制高级模型行为(推理、规划、编码)。 |
| 经济关切 | 未授权抽取可能允许竞争者在不承担成本的情况下获得美国研发投资的回报,可能补贴外国发展。 |
| 国家安全 | 大规模模型抽取可能加速对手的军事或网络 AI 能力,缩小美国的技术优势。 |
| 政策请求 | Anthropic 呼吁更严格的出口管制、扩大情报共享、就防御性信息共享澄清反垄断指引、封堵基础设施漏洞,并对大规模抽取施加惩罚。 |