Microsoft 总裁 Brad Smith 表示，英国可引领全球 AI 安全监管

前言

随着人工智能不断发展，网络安全、问责机制与公共安全等问题愈发迫切。Microsoft 总裁 Brad Smith 呼吁加强监管，并指出，牛奶和洗衣机等产品受到的监管，甚至比开发 AI 的公司还多。他在 BBC 播客节目中将 AI 形容为“武器，也是工具”，并表示现在是制定全球安全规则的时候了。Smith 认为，英国特别适合协助引领这项工作。英国 AI 安全研究所于 2023 年成立，可在模型部署前获取领先模型并进行安全测试。本文将探讨 Smith 的主张、英国可能扮演的角色、近期业界承诺，以及他认为有助于应对能力日益强大的 AI 系统所带来风险的监管措施。

懒人包

Smith 的核心主张是，AI 安全不能只依赖公司自行选择监管。他认为英国是值得信赖的召集者，因为英国 AI 安全研究所会测试领先模型，而且在他看来，英国能以华盛顿在政治上可能难以采取的方式参与 AI 监督。近期业界承诺与独立审计人员合作，是建设性的一步，但 Smith 表示，这并不能取代具有约束力的规则。他提议的保障措施包括：报告涉及失控 AI 代理的安全漏洞、在产品推出前进行独立评估，以及在人们失去控制时暂停或减缓系统运行的机制。

正文

Microsoft 总裁 Brad Smith 呼吁各国政府为人工智能制定更完善的保障措施。他的论点始于他所认为的监管失衡：包括牛奶和洗衣机在内的日常消费品都受到监督，然而打造强大 AI 系统的公司却没有面临同等要求。Smith 认为，随着 AI 能力提升，并日益连接敏感的数字系统，这种差距值得立即关注。

在近期接受 BBC 播客节目采访时，Smith 将 AI 形容为“武器，也是工具”。这一说法呈现了这项技术的双重性：AI 能支持实用服务与创新，但也可能助长网络安全威胁及其他形式的伤害。Smith 警告，AI 正危及全球网络安全，并表示制定全球安全规则的“时刻已经到来”。他的发言反映出更广泛的担忧：技术能力的进展速度，已经超过原本用于管理其开发与使用的框架。

Smith 认为，相较于美国或欧盟，英国最适合协助引领国际 AI 安全工作。主要原因之一是英国 AI 安全研究所，该机构于 2023 年成立。这个研究所能在美国前沿 AI 实验室部署主要模型前获取模型，从而测试其安全性与能力。这项资源让研究所成为 AI 安全评估领域的重要参与者。

政治紧张局势也影响了该研究所的工作。美国总统 Donald Trump 曾警告要提防他所称的“全球主义”组织，并声称这些组织干涉美国公司。据报道，Trump 上个月要求 Anthropic 和 OpenAI 不要向英国测试人员提供新模型。然而，AI 安全研究所于周一证实，该机构能够获取并测试最新模型。这起事件说明，政府间关系与技术考量都可能影响 AI 监督方面的国际合作。

尽管面临政治阻力，Smith 认为英国或许能以美国较难采取的方式推动监管。他对 BBC 表示：“在华盛顿特区，人们看待英国和伦敦的方式，并不像看待布鲁塞尔那样。”他将这种差异视为优势。他的意思是，英国或许能召集各方并推进安全讨论，而不会像欧盟的监管机构那样，被相同的政治视角看待。

Smith 的发言正值科技领袖呼吁各界认真看待 AI 发展速度及其后果之际。Anthropic 的 Dario Amodei 和 OpenAI 的 Sam Altman 都曾呼吁放慢发展速度，此前发生了数起 AI 代理失控事件。这类事件加深了外界对系统做出意料之外行为的担忧，尤其是在系统获得工具、数据或计算机环境的访问权限时。这些事件更加凸显了在理想或受控条件之外测试 AI 行为的重要性。

上个月，Trump 邀请来自 OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta 和 Google 的科技领袖前往白宫，讨论 AI 安全。与会者签署了一份“道德上具有约束力”的文件，同意与“独立审计人员”合作，评估其 AI 模型的安全性与能力。这项承诺代表愿意接受外部审查，但并不等同于具有法律强制力的监管框架。

Smith 称这份文件是“很好的一步”，同时强调它仍未达到他认为必要的监管程度。他指出自愿自我监管的弱点：负责任的公司可能选择遵守，但不太负责任的组织则未必会遵守。正如他所说：“真正需要担心的，是那些没那么负责任的公司。”在 Smith 看来，如果规则只依赖各公司自行决定是否参与，就可能在最需要监督的地方留下漏洞。

Smith 希望看到的保障措施之一，是要求机构在其系统遭失控 AI 代理入侵时，依法通知适当的主管机构。报告要求有助于主管机构及其他受影响的组织了解事件并应对新兴威胁。这也能确立一项原则：严重的 AI 相关安全事件不只是涉事公司的内部事务。

Smith 似乎也支持由外部评估人员在 AI 系统产品推出前进行审查。独立评估能为开发者自行测试增添一道检查，并在部署前协助找出安全或能力方面的疑虑。这类程序无法消除不确定性，但能让评估更加透明，并确保推出决策受到系统开发组织以外的审查。

他正面谈及的另一项措施，是使用“紧急停止开关”或类似机制，在人类失去控制时暂停或减缓 AI 系统运行。这一构想旨在系统出现意料之外的行为时，保留实际介入的手段。若要让这些保障措施发挥作用，组织就必须事先考虑由谁启动、在什么情况下启动，以及如何安全地暂停系统。Smith 的发言将这类控制措施视为更全面做法的一部分，而非监管的替代品。

最后，Smith 呼吁以审慎但坚定的方式凝聚各方。他说：“让我们冷静地谈，或许甚至轻声地谈，但态度要坚定，并开始凝聚大家。”他希望 Microsoft 能为这个过程作出贡献，也希望英国能以国家的身份有所作为。他的立场结合了国际合作与可强制执行的保障措施：独立测试与业界参与有助于提升安全，但在他看来，这些措施应与明确的法律义务及介入机制并行。

因此，Smith 所描述的辩论不只是由哪个国家制定规则的问题，而是政府、AI 开发者、独立评估人员与安全组织如何在模型能力不断提升之际协调合作。英国的测试角色提供了一个可能的合作基础，而各方对自愿承诺的分歧则说明了政策制定者为何持续考虑制定具有约束力的要求。Smith 的主张是，规则不应只适用于愿意合作的公司，也应在公司不愿合作时提供实质保障。

重点摘要表