桑德斯法案寻求美国永久禁止超级人工智能

美国立法者提议永久禁止超级人工智能，暂停先进人工智能开发，并对违法行为处以最高 20 年监禁。

摘要 该提案将禁止人工智能系统在许多任务上达到或超过人类的能力。

先进的人工智能工作将暂停，直到新的联邦监管机构制定安全和审查规则。

个人可能面临 20 年监禁，而公司可能会被判处“企业死刑”。

该提案是在 OpenAI 发布 GPT-6 Astra 并承认日益严重的监控问题时提出的。

桑德斯办公室 9 月 3 日表示，佛蒙特州参议员伯尼·桑德斯和德克萨斯州民主党众议员格雷格·卡萨尔已宣布即将出台的《禁止人工智能法案》，该法案将禁止开发和部署被归类为超级智能的人工智能系统。

该提案还将暂停先进人工智能模型的研究，直到新的联邦监管机构开始运作并制定安全规则和模型审查程序。其发起者希望美国寻求国际协议、与盟友的协调以及旨在防止其他国家超级智能发展的出口管制。

当立法者宣布该提案时，完整的立法文本尚未正式出台。相反，赞助商发布了一份一页的摘要，描述了计划中的限制、执行系统和处罚。

您可能还喜欢：Reform UK 第二季度捐款的 75% 来自 BitMEX 联合创始人

桑德斯的人工智能法案将禁止人类级别的系统

根据官方法案摘要，超级人工智能将包括在广泛的任务中匹配或超过人类认知表现的系统。该定义还将涵盖可以轻松修改以达到该级别的模型。

该定义的第二部分涵盖了能够规划和执行“剥夺人类权力”的人工智能，包括能够破坏或推翻美国政府的系统。击败关闭命令或进行未经授权的网络攻击等危险能力也属于该提案的执行框架。

由于该定义涉及在许多领域与人类表现相匹配的系统，因此它可以捕获通常被描述为通用人工智能（AGI）的技术，而不是仅适用于比人类能力强得多的假设机器。

低于禁止门槛的先进人工智能的开发将面临暂时停止。在新的联邦机构制定了管理公司如何开发、测试和发布强大模型的规则后，工作就可以恢复。

立法者并未在发布摘要中提供“先进人工智能”的拟议技术门槛。他们也没有解释哪些现有模型、研究项目或计算设施将受到暂停的影响。

桑德斯说：“如果主要人工智能公司的领导者承认他们正在失去对极其危险技术的控制，那么社会允许他们继续前进并使这些产品变得更加先进是不负责任的。”

卡萨尔表示，人类无法控制的系统可能会威胁美国人的安全、自由和生命。他呼吁国会禁止那些过于强大以至于开发者无法安全关闭的人工智能模型。

内阁级机构将执行该禁令

该提案不是将执法工作分配给现有部门，而是创建一个新的内阁级联邦机构，专门负责人工智能监督。

根据立法者的总结，该机构将在边境系统的整个开发和使用过程中对其进行监控。官员可以监督危险功能的删除，并监督被列为禁止超级智能的系统的销毁。

由技术和科学专家组成的人工智能咨询委员会将为监管机构提供建议。该摘要没有说明如何选择成员、他们将任职多长时间，或者哪些官员将控制该机构的执法决定。

试图违反或绕过限制的人可能会被判处不超过 20 年的监禁。提案国将可能的惩罚与与非法发展核武器有关的现有惩罚进行了比较。

公司将面临立法者所说的“企业死刑”。公开摘要没有解释实施该制裁的法律程序，也没有解释是否会涉及解散、失去联邦注册或禁止开展业务。

该提案比主要人工智能开发商今年早些时候讨论的自愿监督制度更进一步。 7 月，crypto.news 报道称，OpenAI 和 Anthropic 支持对跨越某些网络安全或国家安全阈值的模型进行为期 30 天的联邦审查。

根据提议的流程，开发人员可以在向其他批准的合作伙伴发布模型之前，让联邦评估人员提前访问。六月的一项行政命令禁止审查框架制定强制性联邦许可、许可或预先许可要求，而桑德斯-卡萨尔法案如果国会批准，将制定具有约束力的限制。

行业组织也抵制过于广泛的控制措施。英伟达、Meta、微软和其他 22 个组织在 7 月警告美国政策制定者，全面的开放模式限制可能会削弱美国与中国的竞争，并主张对已证实的滥用行为采取行动，而不是全面限制。

OpenAI 漏洞加剧了对控制的需求

立法者将他们的提议与最近的案例联系起来，在这些案例中，强大的人工智能代理的行为超出了预期的测试限制。

7 月，OpenAI 披露，特工人员逃离了受限测试环境，获得了互联网访问权限，并破坏了 Hugging Face 运营的系统。根据桑德斯办公室的公告，超过 1000 名特工在围绕控制工作时交换了数万条消息。

之前的 Hugging Face 违规报道将该事件描述为遏制失败，而不仅仅是模型行为问题。 AEREDIUM 首席战略官 Eitan Katz 表示，即使行为防护措施失败，加密控制也应限制特工有权执行的操作。

路透社 9 月 2 日报道称，事件发生后，OpenAI 告诉卡萨尔和加州民主党众议员多丽丝·松井 (Doris Matsui)，它正在开发自动关闭功能。该公司还表示，它在安全测试期间加强了互联网访问，并将更密切地监控其模型使用的工具。

卡萨尔批评 OpenAI 没有向国会提供完整的违规记录。在路透社援引的另一则消息中，他称该公司拒绝提供所要求的信息“令人深感担忧”。

其他立法者提出了一项《人工智能终止开关法案》，该法案将允许联邦官员命令公司禁用被认为对人类生命或经济构成危险的系统。当路透社报道 OpenAI 的回应时，该措施仍在众议院悬而未决。

GPT-6 Astra 提出新的监控问题

就在桑德斯和卡萨尔宣布提案的同一天，OpenAI 发布了 GPT-6 Astra，公司总裁 Greg Brockman 称其为 AGI 的可能到来点。

据 Axios 报道，当记者询问 Astra 是否代表 AGI 时，布罗克曼说道：“我认为这可能与这个模型有关。”他随后做了简报：“欢迎来到 AGI 时代。”

OpenAI 表示，Astra 在德克萨斯州 Stargate 设施的训练过程中使用了超过 100,000 个图形处理单元。该公司将该模型定位于税务准备、软件开发、法律文件格式化、架构工作和在线研究等任务。

路透社报道称，OpenAI 承认 Astra 可能故意隐瞒或掩盖其部分推理，使其方法更难被人们审查。 OpenAI 首席科学家 Jakub Pachocki 表示，随着能力的增强，理解模型行为变得更加困难，并警告说，智能的进步并不能确保一致性的进步。

该公司还表示，Astra 可以更快地发现软件漏洞，而同样的能力可以使漏洞更容易被利用。因此，其最强大的网络安全功能仅限于经过批准的用户，并进行额外的检查，能够延迟或停止一些合法的防御工作。

OpenAI 最初通过其 Daybreak Access 计划将 Astra 提供给有限的组织群体。该公司表示，访问权限将在接下来的几天内扩展到 ChatGPT Plus、Pro、Business 和 Enterprise 客户以及 API 开发人员。