Anthropic 指控阿里巴巴在大规模行动中非法提取先进 AI 能力
目录
你可能想知道
是否有一家主要的中国科技公司参与有组织的行动，从美国开发的模型中提取专有的 AI 行为？
大规模的“蒸馏”攻击可能如何影响 AI 研究和国家技术投资的竞争力与安全性？
主要议题
总部位于美国的人工智能开发商 Anthropic 正式指控中国电子商务与科技集团阿里巴巴，进行 Anthropic 所称的大规模、非法从其 Claude 模型中提取能力的行为。在一封日期为 6 月 10 日、致美国参议员 Tim Scott 和 Elizabeth Warren 的信中，Anthropic 指称与阿里巴巴有关的操作者通过数千个伪造账户对 Claude 执行了近 2,900 万次互动。该公司将此活动描述为同类行动中规模最大，并敦促立法与监管方面的回应。
Anthropic 解释说，这些活动使用了所谓的“蒸馏攻击”，这是一种从更强大的 AI 提取响应以训练或改进较弱模型的技术。根据 Anthropic 的说法，攻击者针对 Claude 最具价值的功能——特别是其处理长篇、复杂任务的能力以及其内部推理与决策方式。通过系统性地查询较先进的模型并收集输出，攻击者可以在不直接接触其底层权重或训练数据的情况下，近似或重现目标模型的行为。
该公司将这些攻击框架化为以“工业规模”执行，使对手得以收获先进能力并将其重新打包为自家产品的一部分。Anthropic 进一步主张，这类努力实际上将美国在研发上的大量投资转化为对地缘政治竞争者的事实性补贴。该公司还强调其他被指称的事件，在其观点中，这些事件带来超出商业竞争的风险，包括可能对国防的影响。
这项关键见解显著影响了对 AI 模型如何在不直接窃取代码下被滥用的理解：蒸馏攻击可以通过反复查询模型并将其输出作为训练数据来复制高阶行为。其结果可能是在远低于从头构建可比系统的成本下，快速转移能力。
Anthropic 援引美国国防部将阿里巴巴与其他几家大型中国公司与军事相关活动联系在一起的说法。那些公司已否认此类指称。阿里巴巴已对美国政府的行动采取法律行动，包括起诉以将其名称从五角大楼黑名单中移除。Anthropic 的信件也要求国会考虑对执行或实质上促成这些提取活动的实体施加制裁或其他处罚，并呼吁采取更强的保护措施以防止美国的技术创新被挪用。
Anthropic 提出的担忧并非个别现象。其他美国 AI 开发者，包括 OpenAI，先前亦报告外国操作者使用类似策略来训练竞争模型。业界观察人士警告，类似蒸馏的提取手法削弱了对昂贵且耗时研究的激励，并可能加速先进能力向未投入基础工作之行为者的扩散。除了经济与竞争上的损害外，Anthropic 也警告可能的网络安全与国防后果，指出一些先进模型具备可被滥用来识别漏洞或自动化复杂任务的能力。
从技术角度来看，对抗蒸馏攻击的防护措施相当复杂。可能的防御包括更严格的访问控制、使用情况监控与异常检测、API 速率限制、模型输出的合成水印，以及在法律或合同上限制再利用。每种方法都有权衡：更严格的控制可能妨碍正当研究与协作，而水印与检测技术可能会被有决心的对手规避。因此，Anthropic 呼吁采取技术、法律与政策相结合的回应，以降低风险并提高大规模提取的成本。
对于这些指控，BBC 与其他媒体曾寻求阿里巴巴回应，公司对某些美国当局提出的指控已公开否认。阿里巴巴亦对某些美国政府措施采取法律行动。与此同时，Anthropic 与其他 AI 公司持续为重要商业里程碑做准备——包括首次公开募股——这可能增加外界对其主张与保护知识产权做法的审视。
整体而言，此事件凸显了商业 AI 开发、国际竞争与国家安全交会处日益升高的紧张关系。它突显出先进 AI 能力可能通过非传统途径被传播，并强调需要协调的技术、企业与政府策略来保护关键研究，同时维持有效的全球合作。
关键见解表
| 方面 | 描述 |
|---|---|
| 指控 | Anthropic 声称与阿里巴巴相关的操作者执行了近 2,900 万次互动以提取 Claude 的能力。 |
| 方法 | 此活动被描述为“蒸馏攻击”，使用较强模型的输出来训练较弱的模型。 |
| 目标能力 | 重点在处理长篇、复杂任务与决策行为的能力。 |
| 规模与影响 | Anthropic 将该活动描述为工业规模，具有潜在的经济与国家安全影响。 |
| 建议回应 | 更强的技术防护、法律处罚、监控与国际政策协调。 |
之后...
展望未来，有几个技术与政策领域可减少大规模提取攻击的风险与影响。改进 API 使用的监控与异常检测、健全的输出水印以及加强的访问控制模型是值得追求的技术方向。此外，关于负责任使用、数据来源与跨境商业行为的国际规范与协议，也可帮助设定滥用的期望与处罚。
政策制定者应考虑在创新与保护之间取得平衡的框架：有针对性的出口管制、更明确的中介责任规则，以及鼓励企业采取保护措施而不抑制正当研究的激励。产业、学界与政府之间的合作将对制定实用、可执行且能适应快速演进的 AI 能力的标准至关重要。
探索模型水印、查询行为分析与供共享研究使用的隐私保护机制的防御性研究，将强化韧性。与此同时，关于可接受商业实践与合作性安全措施的国际对话，对防止通过隐蔽手段进行高风险技术转移亦相当重要。
最终，此事件强调了在全球互联的研究与商业生态中，需要重新思考如何保护、治理与共享先进 AI 能力的更广泛需求。持续投资于检测技术，结合周到的政策与外交参与，是在兼顾创新与安全方面的最佳途径。