人类研究人员辞职，警告人工智能最快明年可能失控

雅各布·考克森 (Jacob Coxon) 的离职标志着领先人工智能实验室以安全为重点的退出模式的最新一次，同事们公开支持他的可怕评估

一位在 Anthropic 从事预训练工作的 27 岁英国研究人员公开辞职，他警告说，构建递归自我改进人工智能的竞赛可能会导致人类在这个十年结束之前灭绝。

9 月 8 日至 9 日左右，雅各布·考克森 (Jacob Coxon) 离开了世界上最著名的人工智能安全公司之一，他的临别赠言并不是一篇礼貌的 LinkedIn 帖子，内容是“令人兴奋的新篇章”。这是一个警告，表明构建这些系统的人们真诚地相信它们可能会产生灾难性的结果，并且事情失控的时间表可能最快在明年。

格洛丽亚 一只你不拥有的股票刚刚移动——而两只你确实依赖它。凯莱财经看到了其他人所忽视的联系。查看连接 →

内部警报

接下来发生的事情让考克森的辞职特别难以忽视。他自己在 Anthropic 的同事开始公开同意他的观点。

拥有 Anthropic 对齐科学主管头衔的 Evan Hubinger 在社交媒体上支持了 Coxon 的主张。他个人估计：人工智能在未来十年内导致大规模人类死亡的可能性超过 10%。

Hubinger 更进一步，承认 Anthropic 缺乏确保与超级智能系统保持一致的明确计划。

另一位人类研究员塞缪尔·马克斯（Samuel Marks）也表达了类似的担忧，他表示公司内部的高级员工特别担心灭绝级别的风险。

考克森特别批评了人工智能开发圈内使用“关键时刻”和“残局”等术语。这些话将对超级智能的追求描述为紧迫且不可避免的事情，是一场需要赢得的竞争，而不是一个需要管理的风险。他认为，这种框架是问题的一部分。

退出模式

Coxon 并不是第一个因担心公司发展方向而离开 Anthropic 的安全研究人员。该公司安全保障研究团队的负责人 Mrinank Sharma 于 2026 年 2 月辞职。Sharma 指出人工智能和生物武器造成的危险不断升级，他称外部压力正在损害公司的道德行为。

讽刺意味很浓。 Anthropic 由前 OpenAI 员工创立，其中包括首席执行官达里奥·阿莫迪 (Dario Amodei)，特别是因为他们认为 OpenAI 没有足够重视安全性。它应该是安全第一的选择。现在，它自己的安全研究人员正在离开，因为他们认为 Anthropic 没有足够认真地对待安全。

竞争作为促进剂

考克森的警告特别指出国际竞争是使情况变得更糟的一个因素。跟上竞争对手的压力，尤其是来自中国人工智能实验室的压力，创造了一种环境，让我们放慢脚步以确保安全，感觉就像是单方面裁军。