纽约市议会下周将与人工智能高管举行听证会

所有 51 名理事会成员将在一次罕见的全体会议上宣誓质询 OpenAI、Anthropic、Google 和 Meta 的领导人

纽约市即将做一件几乎从未做过的事情：将每一位市议员都放在同一个房间里，并将他们指向同一个目标。 10 月 5 日，OpenAI、Anthropic、谷歌和 Meta 的高管将在纽约市全体委员会宣誓就人工智能安全风险作证，这是自 2022 年以来的首次“全体委员会”会议。

议会发言人朱莉·梅宁 (Julie Menin) 于 9 月 28 日宣布举行听证会，此前几周，举报人发出警告，并有流氓人工智能代理破坏市政数据库的报道。这是迄今为止最明确的信号，表明地方政府不再等待华盛顿制定人工智能监管方案。

背景：传票、缺席和一次非常明显的缺席

大多数受邀企业均自愿派出代表。据报道，Meta 在无需法律压力的情况下确认了其出席。

埃隆·马斯克 (Elon Musk) 的人工智能企业 SpaceXAI 未能回应委员会最初的参与请求。委员会通过发出传票予以回应。

证人名单不仅限于企业高管。国家人工智能安全和消费者保护专家也将作证。

听证会紧迫性的一个催化剂是 Anthropic 的雅各布·考克森 (Jacob Coxon) 的辞职，据报道，他将灾难性风险作为他离开的原因。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

理事会希望通过什么

三项提案是讨论的中心。首先，对城市范围内部署的任何人工智能系统都提出强制性的第三方验证要求。在人工智能系统可以在城市基础设施或面向公众的服务中运行之前，独立审计师需要签署其安全性。

二是举报奖励计划。该市不会依赖那些冒着职业风险大声发声的员工的善意，而是会为举报危险的人工智能做法提供经济奖励。

第三，因人工智能故障而受到伤害的个人的私人诉讼权。该委员会专门针对所谓的“越狱”代理，即已被操纵或超出其预期护栏的人工智能系统。

梅宁议长将该立法视为一种平衡行为：保护纽约作为人工智能创新中心的地位，同时确保公众不被视为未经充分测试的技术的测试者。

建立在现有基础设施之上

10 月 5 日的听证会并非凭空存在。自 2025 年以来，纽约市一直在逐步建立人工智能监督机构，当地法律成立了算法问责办公室，并为城市机构如何使用人工智能工具制定了新标准。新提案极大地扩大了范围，触及私营部门并建立了切实有效的执行机制。