OpenAI 和 Anthropic 首席执行官向联合国安理会提出人工智能安全警告

萨姆·奥尔特曼 (Sam Altman) 和达里奥·阿莫迪 (Dario Amodei) 在历史性的首次前沿人工智能风险简报会上向世界领导人发表讲话，呼吁制定协调一致的全球安全标准。

几十年来，联合国安理会举办了大量关乎生存的对话。核武器。气候。流行病。 2026 年 9 月 23 日，它在该列表中添加了一个新项目：可能超出人类控制的人工智能。

OpenAI 的萨姆·奥尔特曼 (Sam Altman) 和 Anthropic 的达里奥·阿莫代 (Dario Amodei) 在联合国大会年度会议期间出席安理会会议，敦促世界领导人围绕人工智能安全建立合作框架，以免该技术的发展轨迹超出管理该技术的机构的范围。

Gloria Stocks 在一个应用程序中，加密货币在另一个应用程序中，钱包无处不在？凯莱金融将您的整个投资组合一目了然。一起看看→

他们实际上说了什么

奥特曼的信息以共同利益为中心。他认为，各国在管理强大的新技术方面拥有共同利益，这些共同利益应该成为国际协调而不是竞争的基础。

阿莫代进一步警告说，如果开发过程缺乏足够的保障措施，人工智能可能会给人类带来真正的风险。在他出现在联合国之前，他于 9 月 12 日发表了一篇文章，在该文章中，他公开呼吁更加谨慎地进行人工智能能力开发，并主张在实验室内嵌入独立评估人员，以提供内部团队无法提供的问责制。

这次会议之所以引人注目，不仅在于谁发言，还在于其代表的内容。这是联合国安理会第一次专门关注前沿人工智能安全风险的简报，这表明对话已经从学术会议和硅谷播客转移到正式国际外交机制中。

其他知名人士也加入了讨论。 Hugging Face 首席执行官 Clément Delangue 与 Yoshua Bengio 一起参加了此次活动，Yoshua Bengio 是现代深度学习的基础研究人员之一，也是人工智能开发中谨慎行事的一贯倡导者。中国的人工智能开发者也被邀请做出贡献，考虑到贯穿整个对话的地缘政治紧张局势，这一细节值得注意。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

大局观：外交、分歧和递归的自我完善

会议大部分时间都在讨论的具体风险是递归的自我改进：先进的人工智能系统有可能以超越人类监督的方式迭代增强自己的能力。

这次会议正值更广泛的外交时刻。中美关于人工智能监管的对话一直在悄然扩大，中国开发商参加联合国会议反映出试图使对话真正全球化，而不是披着多边主义外衣的西方标准制定活动。

这一尝试面临着直接的政治阻力。美国总统唐纳德·特朗普公开拒绝了他所说的控制人工智能的全球主义计划，这一框架将国际协调定位为对美国技术领先地位的威胁，而不是管理共同风险的机制。

Bengio 的出现增添了不同的维度。他在商业人工智能生态系统之外运营，没有产品路线图需要保护。他与 OpenAI 和 Anthropic 的首席执行官一起参与，标志着学术安全研究人员和行业领导者在国际机制的必要性上达成了罕见的共识。

接下来会发生什么，以及为什么它很重要

安理会会议没有产生具有约束力的协议或正式决议。

特别是对于 OpenAI 和 Anthropic 来说，倡导全球标准是一把双刃剑。一方面，帮助制定国际框架的行业联盟公司通常最终会制定反映其现有实践的标准，这是一种竞争优势。另一方面，任何严肃的多边制度都可能带来阿莫代在 9 月 12 日文章中描述的那种独立评估和监督，这会造成今天并不存在的运作摩擦。

考虑到中国人工智能发展的规模，任何排除中国的国际人工智能安全框架从定义上来说都是不完整的。但将中国纳入其中意味着要在根本不同的监管理念和政治体系之间进行谈判。