由于担心灭绝，立法者推动人工智能安全立法

一位前人类研究员的辞职和对存在风险的警告激发了两党对具有约束力的联邦人工智能法规的支持

一名研究人员辞去了世界上最著名的人工智能公司之一的工作，并告诉世界这项技术可能会在十年内消灭人类。国会似乎第一次在倾听。

Jacob Coxon 于 2026 年 9 月 8 日从 Anthropic 辞职，完成了多年来学术论文和会议小组无法完成的任务：它为约束联邦人工智能安全规则创造了真正的立法动力。此后，20 多名国会议员公开呼吁加强监管，两党参议员小组正在推进一项法案，对强大人工智能模型的开发者施加法律上的“注意义务”。

Gloria Stocks 在一个应用程序中，加密货币在另一个应用程序中，钱包无处不在？凯莱金融将您的整个投资组合一目了然。一起看看→

该法案及其支持者

参议员艾米·克洛布查尔 (Amy Klobuchar)、约翰·图恩 (John Thune) 和特德·克鲁兹 (Ted Cruz) 正在带头推动这一行动。他们提出的立法将把人工智能公司多年来做出的自愿安全承诺转化为可执行的法律要求。

该法案的核心条款包括对先进人工智能系统进行强制性的预发布安全测试、独立的第三方审计以及开发者的标准化报告义务。它还将授予政府干预和防止发布被视为危险的人工智能模型的权力。

根据拟议的规则，构建前沿人工智能模型的公司将承担正式的注意义务，这意味着如果他们的系统造成损害并且未能采取合理的预防措施，他们可能会面临法律后果。

OpenAI 公开倡导强制性国家安全标准和强大的测试协议，这是一家直接受此类规则约束的公司的显着立场。

是什么吓坏了国会

Anthropic 的另一位研究员 Evan Hubinger 公开估计，未来十年内，人工智能驱动的灭绝事件的可能性超过 10%。

Anthropic 本身发布了一份威胁报告，对其新型人工智能模型的安全性提出了质疑，特别是它们协助开发生物武器的潜力。

前方的障碍

一些立法者指出，为一项发展速度快于国会安排听证会的技术编写技术上合理的规则是困难的。 11 月的中期选举又增加了一层复杂性，一些成员在面临连任竞选时不愿对技术上复杂的监管框架进行投票。