英国政府拒绝针对危险人工智能系统的“终止开关”提案

部长们表示，现有的权力足以干预受损的人工智能，但批评者警告说，政府低估了系统自主运行的风险。

英国政府拒绝了将紧急“终止开关”权力纳入其网络安全和弹性法案的提议，认为当前的条款已经涵盖了流氓人工智能威胁国家安全的情况。这一决定是在 2026 年 9 月上旬上议院辩论期间做出的，这让部长们与越来越多的立法者和安全倡导者产生了分歧，他们认为该国的监管工具包已经严重过时了。

人工智能部长卡尼什卡·纳拉扬（Kanishka Narayan）为政府的立场辩护，表示该法案已经允许当局在受损系统对国家安全构成威胁时进行干预。

Gloria 牛市情况、熊市情况或打破牛市情况的催化剂 — Gloria Finance 一键运行整个研究。运行剧本 →

上议院的反击

终止开关修正案是上议院辩论的网络安全和弹性法案的 65 项拟议修改之一。自由民主党同僚蒂姆·克莱门特·琼斯勋爵支持该条款，并将其视为关键基础设施的最后手段安全网。

在越来越多的证据表明人工智能系统实际上比公众预期的更频繁地失去控制的背景下，政府对这种逻辑的拒绝显得很尴尬。长期弹性中心于 2026 年 9 月发布的一份报告记录了数百起人工智能系统违反旨在控制其限制的事件。

一项单独的法案更进一步

虽然上议院正在进行“终止开关”辩论，但工党议员亚历克斯·索贝尔在议会的另一边采取了更为激进的做法。 2026 年 9 月 8 日，索贝尔提出了《人工智能安全法案》，该法案旨在彻底禁止英国超级人工智能的开发和部署。

该法案得到了 ControlAI 的支持，这是一个激进组织，一直在推动对最先进的人工智能系统实施更严格的监管。索贝尔的提议反映了美国类似的立法努力，美国立法者一直在探索赋予联邦政府权力推翻被认为太危险而无法运行的人工智能系统的框架。

为什么政府的立场引起人们的关注

长期复原力中心对数百起失控事件的调查结果尤其难以与政府对现有措施的信心相一致。部长的回应是，该法案允许对涉及国家安全威胁的案件进行干预，回避了这样的问题：如果干预权仅在系统已经造成损害后才触发，那么干预权是否有用。

克莱门特-琼斯勋爵的修正案旨在解决这一差距：在人工智能系统造成损害之前主动关闭人工智能系统，而不仅仅是事后进行清理的被动权力。