Anthropic 首席执行官 Dario Amodei 澄清立场：并非反对公开权重模型，但警告威权主义 AI 风险
目录
你可能想了解的事项
1. Anthropic 是否支持禁止公开权重的 AI 模型，尤其是来自中国的那些？
2. Anthropic 的领导层认为哪些具体风险比开源模型本身更值得关注？
主要议题
周一下午，Anthropic 创始人兼首席执行官 Dario Amodei 发布了一则澄清，回应业界关于他的公司主张禁止公开权重模型的猜测。他明确表示： Anthropic 从未支持禁止公开权重模型。Amodei 指出，熟悉他先前著作的人应已理解他的立场，但他刻意重申，以消除任何残留的疑虑。
这项澄清随后是一封由 NVIDIA 首席执行官 Jensen Huang 发起的公开联署信，该信敦促政策制定者不要仓促对公开权重 AI 模型施加限制。这封由多家大型 AI 公司签署的信并未针对任何特定国家，但业界讨论很快转向对中国的关切。关切的焦点并非仅在于中国实验室公开模型，而在于有指控称某些中国组织可能通过挪用美国公司的知识产权来加速其能力。
在这些指控中被提及的技术之一是模型蒸馏（model distillation），此过程通过大量探测一个模型来学习另一个模型的行为与内部模式。批评者认为，此类做法可以在不直接获取原始训练数据或权重的情况下复制能力。Amodei 将开放性问题与地缘政治风险区分开来：他认为许多公开权重模型在不具危险能力时是无害或有益的。用他的话说，不具危险能力的公开权重模型可视为公共物品。它们除了运行时的计算成本外，几乎不花费，却能为企业、开发者与研究人员带来相当的价值。
同时，Amodei 描述了另一类令他夜不能寐的恐惧。他的主要担忧不是企业运行开源模型，而是威权政府可能开发出超越美国能力的 AI 系统，并利用该优势追求持续的军事主导地位或加强国内镇压。他以中国共产党为威权国家中最有能力的例子，但也澄清其他威权国家在滥用方面并非没有可能。
除了地缘政治与军事的关切外，Amodei 也提出了 AI 促成的生物性威胁。他主张，在涉及生物攻击向量的情境中，公开权重模型会带来特殊问题，因为一旦发布后很难监控且难以对其施加强有力的安全防护。引用英国 AI 安全研究所（U.K. AI Security Institute）的一份分析，他强调公开权重的发布往往是不可逆的；一旦公开，模型就无法完全收回。在模型可能被改作恶用的情境中，这种永久性会放大风险。
开源支持者对此说法提出异议，认为更广泛地让有能力的模型可获取能够使防御能力民主化：如果强大模型不集中于少数实体，防御者与独立研究者能够发现漏洞、测试缓解措施并建立保护工具。Amodei 的观点承认开放对创新与防御的好处，但对于缺乏全球协调与可强制执行的安全措施的情境仍持谨慎态度。
为了解决关于中国可能滥用先进 AI 的具体担忧，Amodei 提出了若干他认为可行的政策做法。他重申支持现有限制中国获取先进芯片的措施——这一要素已存在于美国政策中——并呼吁在涉及非法知识产权转移时，对蒸馏行为实施正式打击。美国政府此前已警告，若有证据显示与 AI 模型相关的知识产权窃取，可能会采取制裁；Amodei 的建议与此立场一致。
重要的是，Amodei 表示支持一个国际性的模型安全测试制度。他欢迎由部分美国政府主导或业界提出的努力，旨在为最有能力的 AI 系统建立独立的安全测试。他强调测试必须在全球范围内适用，并且应涵盖公开或封闭的模型，同时对来自初创公司与学术研究的低能力模型予以豁免。要求测试具有全球性为政治上带来难题：这需要所有主要 AI 开发国（包括中共）的合作。尽管有此障碍，Amodei 认为在防止 AI 促成的生物性威胁方面，有限的合作可能是可行的，因为此类合作也可能符合中国的利益。
总之，Amodei 的澄清平衡了两条主线：原则性地为不具危险能力的公开权重模型辩护，以及对威权国家开发或部署的先进 AI 系统所构成的战略与生物风险提出冷静的警告。他的立场反对对开放性的简单禁令，同时主张以有针对性的政策——出口管制、打击非法知识产权转移与全球安全测试——来应对他所识别的更为紧迫的威胁。
这一立场处在技术、伦理与地缘政治辩论的交汇点上，关于如何管理强大 AI 技术。它凸显一个反复出现的主题：开放与创新带来重要利益，但必须配合治理机制以减轻超越国界与商业利益的风险。
关键洞见表
| 面向 | 描述 |
|---|---|
| Anthropic 的立场 | Anthropic 不支持禁止公开权重模型，且从未主张此类禁令。 |
| 公开权重作为公共物品 | 不具危险能力的公开模型可为开发者、研究人员与企业提供低成本的价值。 |
| 主要关注 | 威权国家开发出用于军事或镇压目的的更高端 AI——中国被引用为最有能力的例子。 |
| 生物风险 | AI 可能促成生物攻击；公开权重的发布尤其有风险，因为一旦公开就难以控制。 |
| 政策建议 | 限制先进芯片获取、对非法蒸馏/知识产权窃取执法，并为高能力模型建立全球安全测试。 |
| 全球测试 | 要具有效力需全球参与，包括威权政府的合作，才能具公信力。 |
之后…
展望未来，Amodei 所突显的辩论反映出一项更广泛的需求：在开放研究的益处与地缘政治竞争及非对称风险的现实之间取得和解。实际的下一步可能包括就测试与出口管制达成多边协议、建立更清晰的蒸馏与知识产权保护规范，以及强化监测危险双用途应用的国际机制。要达成此类协调将复杂且缓慢，但有针对性、透明且以证据为本的政策能够在保留公开权重模型所推动的技术创新的同时，降低最严重的风险。
最终，Amodei 的言论邀请一场细致的讨论：在安全且有价值的情境下保留开放性，但在关键生死存亡的风险处建立可强制执行的全球防护。这种平衡将在未来数年内界定 AI 治理议程的很大一部分。
