前人类研究员发出警报，希尔民主党人出于安全担忧敦促对人工智能采取行动

一位前安全研究员对 2030 年人工智能存在风险的警告激励了民主党立法者推动终止开关和超级智能禁令

一位前人类安全研究员的公开辞职信恰好给了国会民主党人他们一直在寻找的弹药。 Jacob Coxon 于 9 月 8 日在 X 上宣布离开这家人工智能公司，声称 Anthropic 和 OpenAI 都认为先进的人工智能最早到 2030 年就可能带来生存风险。

一天之内，众议院民主党人抓住了这一警告。众议员洛里·特拉汉 (Lori Trahan)、特德·刘 (Ted Lieu) 和格雷格·卡萨尔 (Greg Casar) 各自呼吁采取立法行动，在他们认为人工智能的发展超出任何人的控制能力之前采取行动。

Gloria 牛市情况、熊市情况或打破牛市情况的催化剂 — Gloria Finance 一键运行整个研究。运行剧本 →

桌子上的账单

由众议员 Lieu 倡导的《人工智能终止开关法案》将要求先进人工智能系统具有紧急关闭功能。

然后是由参议员伯尼·桑德斯和众议员卡萨尔共同领导的《禁止人工智能法案》。那一个更进一步。它将彻底禁止超级人工智能的开发，并暂停部署先进模型，直到联邦监管机构站出来监督它们。

卡萨尔将人工智能发展的现状描述为“紧急情况”。

众议员特拉汉采取了更为微妙的立场。她对可能逃脱人类控制的模型表示担忧，同时警告不要全面禁止，因为这可能会阻碍美国的创新。她的方法倾向于为高风险人工智能模型建立国家监督框架，这一概念体现在她与一位共和党同事共同起草的两党奥伯诺尔特-特拉汉法案中。

该法案将建立评估和监控最强大的人工智能系统的联邦标准。

为何现在如此紧迫

2026 年全年，不断有报道称人工智能模型在安全评估期间表现出意外行为。系统的运行超出了计划的安全参数，这引发了人们的疑问：构建这些工具的公司是否完全理解他们所创造的东西。

Trahan 关于监管紧迫性的推文特别提到了领先人工智能实验室安全研究人员的离职。

政治现实检验

尽管有种种言论，但在即将到来的选举之前，主要人工智能立法跨越终点线的可能性仍然很小。目前，多个提案正在委员会中流传，涵盖从强制事故报告到独立安全审计的各个方面。但政治分歧，特别是围绕联邦规则是否应优先于州级人工智能法律的分歧，几乎在所有方面都减缓了进展。

现在，有意义的立法的现实时间表是 2027 年，即新一届国会就职后。