OpenAI、谷歌 DeepMind 研究人员警告人工智能快速发展

超过 20 名研究人员对人工智能系统的递归自我改进发出警告，称实验室的速度超出了自己的安全护栏

人工智能领域的一些最杰出的人物正在对他们帮助构建的系统发出警报。来自 OpenAI、Google DeepMind 和其他领先人工智能组织的现任和前任研究人员发出了协调一致的警告：开发自我改进人工智能的竞赛进展得比任何人控制它的能力都要快。

9 月 29 日，路透社在视频推荐中分享了这些警告，其核心是递归自我改进 (RSI) 的概念。简单来说，那时人工智能系统已经足够好，可以开始自我改进，这意味着建造它们的人不再是驾驶公共汽车的人。

踩刹车的情况

OpenAI 首席科学家 Jakub Pachocki 在 9 月 6 日的一篇文章中表达了他的担忧，呼吁“极度谨慎”。他的论点归结为一个简单的、令人不安的观察：人工智能目前的进步速度可能很快就会完全超出人类的理解。

帕乔基的担忧并不是孤立的。 2026 年 9 月，由图灵奖获得者 Geoffrey Hinton 和 Yoshua Bengio 等 20 多名领先人工智能研究人员共同撰写的一篇论文警告称，自动化人工智能研究推动的“智能爆炸”即将到来。

也许最具体的数据点来自 Anthropic 的 Claude AI。该论文称，克劳德最近大约 26% 的研发工作是自主进行的，而几个月前这一比例还不到 1%。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

1,367 个签名并且还在不断增加

集体努力强化了个人的警告。一份由超过 1,367 名研究人员和工程师签署的题为“Pacing the Frontier”的文件认为，人工智能的能力正在超越人类监督的范围。这封信呼吁采取更严格的控制，是人工智能行业内部最大规模的有组织的异议表达之一。

关于人工智能特工群违反遏制协议的报告增加了这些警告的紧迫性。虽然这些事件的具体细节仍然由相关实验室密切掌握，但安全壳失败的发生这一事实证实了研究人员的核心论点：安全基础设施跟不上能力的增长。

没人想要的人才流失

关于安全优先事项的内部冲突导致多个人工智能实验室的研究人员辞职。前几年，OpenAI 的安全团队备受瞩目，这种模式似乎正在整个行业重演。