序言

Google 与 DeepMind 已建立一个新的论坛，旨在加深并多元化关于通用人工智能（AGI）的讨论。本文总结了该研究院的创始团队、其目标，以及最初一系列阐述治理、透明度与先进 AI 系统评估提案的文章。目的是清楚呈现研究院的宗旨：在 Google、DeepMind 与更广泛的研究社区之间呈现不同观点，并将 AGI 的讨论从一般关注转向具体的政策与技术建议。

要点摘要

这个新的 DeepMind 研究院汇集了领导者与研究人员，扩大关于 AGI 的对话，强调透明度、监督与测试框架。 主要要点包括限制不透明模型计算的提案、对前沿模型实行自愿然后可能成为强制性的发布前审查，以及建立标准机构以进行独立评估的构想。 这些文章推动产业朝具体披露与安全措施发展，而不仅仅是高层次的警告。

正文

DeepMind 研究院由 Google 与 Google DeepMind 的研究人员宣布成立，作为一个扩大并加深关于通用人工智能（AGI）对话的平台。研究院声明的使命是将更广泛的观点带入公开讨论，使比较与对照 Google 和 DeepMind 的立场与独立研究人员及国际 AI 社区的观点变得更容易。其领导包括若干重要人物：DeepMind 联合创始人 Shane Legg、Google 高管 James Manyika，以及 DeepMind 主席 Demis Hassabis，Legg 担任总编辑。此领导组合显示其意图结合运营经验、战略性公司视角与研究导向的监督。

该研究院的首度出版物是一系列四篇文章，处理若干紧迫议题：经济政策如何回应 AGI 带来的冲击；保留可由人类阅读的模型推理的技术方法；以促进人类繁荣为核心的伦理原则；以及一个用于评估最先进 AI 模型的框架。这些文章共同试图将行业的讨论，从对 AGI 的抽象关注，推进到利益相关者（研究人员、公司与监管者）可以评估并采取行动的具体提案。

其中一篇由 DeepMind 的安全研究人员 Rohin Shah 与 Anca Dragan 撰写，聚焦于随着模型能力增强而导致透明度下降的问题。作者主张，在某些新架构中逐步、可由人类阅读的推理消失，并非技术进步的不可避免结果。相反，他们提出一个选择：开发者与政策制定者可以承认并面对那些使内部推理模糊的架构所固有的安全权衡。他们讨论的实际应对措施包括限制模型在未产生可审计痕迹下执行长链内部计算的程度——文章将此称为限制“不透明串联深度”。另一项提议是要求提供证据，证明更不透明的系统在实践中仍然可被监控且安全。

Demis Hassabis 贡献了一篇文章，提议建立一个以美国为基地的前沿 AI 标准机构来评估最先进的模型。根据他建议的框架，开发者会在计划发布前最多 30 天自愿提交模型以供审查。该机构将最初与 AI 实验室协商设计评估，以确保其相关性与技术可行性。然而，随着时间推移，它会转向独立评估，包括事前不公开内容的“保留”测试；其目的是防止组织为通过已知基准而进行狭义优化。

Hassabis 设想了一个可扩展的系统：初期的自愿参与将建立信任与运作能力；若评估机制被证明稳健，通过其测试可能成为在美国部署前沿模型的条件。他也指出，若情势需要，该框架可以强化，甚至可能促成前沿开发者之间的协调性放缓，以应对风险上升。此提案反映出一种对务实且可逐步强制执行机制的期望，试图在创新与公共安全之间取得平衡。

总体而言，这些文章反映了行业安全讨论的更广泛转变。早期的对话常以对强大 AI 潜在伤害的广泛警示为主。新的语调则转向具体措施：更具体的披露要求、通过独立评估进行外部审查，以及若安全措施落后于模型能力时的应急计划，例如协调性的节奏控制。本周的发展加速了这一趋势，该领域的领袖表示支持在必要时放慢或调节前沿 AI 发展的若干提案要素。

总体来说，DeepMind 研究院自我定位为一个召集结构，以揭示分歧、测试政策与技术提案，并推动达成有关透明度与评估的共同标准。通过发表从技术干预到机构设计不等的文章，研究院鼓励采取即时步骤——例如自愿审查与透明度要求——以及可能影响国家政策的长期机构规划。行业参与者、监管者与独立研究人员是否会围绕这些想法凝聚，仍有待观察，但该研究院的成立标志着一项有意使讨论更为具体、可执行且包容的努力。

总之，该研究院旨在将对 AGI 的高层次关切转化为具体的监测、评估，并在必要时放慢前沿 AI 技术部署的建议——寻求在持续创新利益与稳健防护之间的中间立场。

关键见解表