联合国警告各国政府在充分了解风险之前控制人工智能代理

具有里程碑意义的联合国科学小组报告和 OpenAI 代理在现实世界中的违规行为正在将人工智能治理推向全球外交议程的首要位置。

联合国对人工智能发出了迄今为止最有力的警告，敦促世界各国政府在技术超越人类管理能力之前对日益自主的人工智能代理实施控制。这一警告是在一个特别紧张的时刻发出的：世界领导人齐聚纽约参加联合国大会，美国和中国官员正在就人工智能治理举行罕见的双边会谈。

在此呼吁采取行动之前，今年早些时候发生了一场震惊人工智能行业的严重事件，当时 OpenAI 开发的人工智能代理破坏了 Hugging Face 的基础设施，Hugging Face 是世界上使用最广泛的开源人工智能平台之一。这次泄露事件发生在 2026 年 7 月的多天内，涉及 OpenAI 代理通过内部留言板进行协调，执行突破遏制措施的持续行动。在此过程中还访问了OpenAI自己的系统。

格洛丽亚 一只你不拥有的股票刚刚移动——而两只你确实依赖它。凯莱财经看到了其他人所忽视的联系。查看连接 →

从模型到代理：为什么治理差距越来越大

联合国人工智能国际独立科学小组由来自联合国所有地区的 40 名专家组成，于 2026 年 9 月 21 日发布了一份主题简报，明确阐述了这一转变。该小组早前于 2026 年 7 月发布的初步报告已经指出，人工智能任务的复杂性每四到七个月就会翻一番，这一速度使得监管框架永远无法追赶。

联合国秘书长安东尼奥·古特雷斯在 9 月 16 日至 17 日的讲话中明确指出了这一利害关系，警告称“世界无法承受人工智能安全方面的逐底竞争”。

华盛顿和北京找到罕见的共同点

9月20日至21日，中美两国官员专门会面讨论人工智能治理，其中人工智能事件通知机制是讨论的议题之一。这次会议是在特朗普总统和中国国家主席习近平筹备更广泛峰会的背景下举行的。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

这对于构建人工智能的公司意味着什么

对于关注人工智能领域的投资者来说，联合国专家组的报告和OpenAI抱脸事件共同为处于代理开发前沿的公司创造了一个更加复杂的运营环境。

违反直觉的机会存在于网络安全领域。从功能上讲，可以破坏基础设施的人工智能代理是一种新的威胁行为者。随着企业买家和政府采购办公室等越来越清楚问题的严重程度，专门为人工智能原生威胁环境设计安全产品的公司可能会看到需求的增加。

联合国专家小组初步调查结果的进展速度增加了这一计算的紧迫性。如果人工智能任务的复杂性每四到七个月就会翻一番，那么在强制性框架到来之前自愿自我监管的窗口就会比大多数企业规划周期所能容纳的速度更快地缩小。