Anthropic 的 Jacob Coxon 辞职，呼吁中国支持人工智能安全

这位 27 岁的研究人员在四个月后离开了 Anthropic，并警告说，到 2027 年底，该行业向自我改进人工智能的竞赛可能会变得无法控制

雅各布·考克森在 Anthropic 工作了四个月。在此之前，他在 OpenAI 工作了三年。现在他两者都不是，而他离开的原因在 X 上的浏览量已超过 1 亿次。

这位 27 岁的英国人工智能研究员曾在 Anthropic 从事预训练工作，他在得出结论认为他所工作的两家公司的人工智能发展轨迹相当于他所说的“自我完善的超级智能竞赛”后，于 9 月 8 日辞职。他的核心论点是：如果中国不在执行安全限制的谈判桌上，那么这一切都不重要。

格洛丽亚 您的经纪公司向您显示余额。格洛丽亚（Gloria）向您展示了他们搬家的原因——跨越每块土地。在格洛丽亚看到它 →

报警案例

Coxon 在 OpenAI 任职期间为 GPT-4o 做出了贡献，并于 2026 年 5 月加入 Anthropic。他的公开帖子描绘了一种行业文化的图景，这种文化采用了紧迫的语言，但没有相应的谨慎。他指出了人工智能实验室内流传的“关键时刻”和“残局”等术语。

具体的警告是明确的：Coxon 认为先进的人工智能系统到 2027 年底可能会变得无法控制。Anthropic 自己的联盟​​负责人 Evan Hubinger 基本上支持他。 Hubinger 公开估计，人工智能在这十年导致人类灭绝的可能性超过 10%。

为什么中国很重要

考克森的辞职信不仅仅是一个警告。这是一个政策争论。他的中心论点是，对人工智能发展的单方面限制只会让谨慎行事的一方处于劣势。考克森敦促全球合作，特别是与中国合作，对人工智能系统的递归自我改进实施限制。

这场争论的时机特别重要。美国和中国的人工智能开发商陷入了不断升级的竞争，据报道，Anthropic 和 OpenAI 都在为潜在的 IPO 做准备。

发声要付出什么代价

一个值得注意的细节是：考克森在股权完全归属之前就离开了。对于一家估值数百亿美元并有可能进行 IPO 的公司来说，对于一名 27 岁的研究人员来说，这不是一个微不足道的财务决定。

超过 1 亿的浏览量表明 Coxon 的担忧远远超出了通常的人工智能安全圈。各大媒体纷纷报道此事。这给 Anthropic 带来了一个特殊的问题，该公司由前 OpenAI 研究人员创立，他们离开正是因为他们觉得安全没有得到优先考虑，而现在又面临着一名员工因同样原因而离职。

市场和监管连锁反应

Anthropic 和 OpenAI 都面临着一个微妙的时刻。他们需要向投资者展示商业可行性，同时证明他们的安全实践足以证明持续快速发展的合理性。高调的辞职破坏了该演讲的后半部分。