前人类研究人员呼吁全球协调应对人工智能风险

雅各布·考克森 (Jacob Coxon) 从人工智能实验室辞职，警告人工智能实验室的快速进步可能会超过安全协议，然后将他的案子提交给国家电视台

一位 27 岁的人工智能研究员在 OpenAI 和 Anthropic 花了三年时间研究前沿模型，刚刚放弃了科技界最令人垂涎的工作之一，而且他大声地这样做了。雅各布·考克森 (Jacob Coxon) 于 2026 年 9 月 8 日从 Anthropic 辞职，并在 X 上发布了一条帖子，指责两家公司在打造更智能机器的竞赛中将人类安全视为可接受的权衡。

五天后，考克森出现在 NBC 新闻的“与媒体见面”节目中，向更广泛的受众阐述他的观点：人工智能实验室需要在全球范围内进行协调，而且他们需要在窗口关闭之前做到这一点。

格洛丽亚 拥有这个故事中的任何名字吗？了解今天的走势对您的投资组合有何实际影响。在格洛丽亚开业 →

报警案例

考克森的离职并不是一个安静的两周通知情况。他的公开批评集中在他所描述的对人类安全的赌博上，并警告说先进人工智能的灾难性后果可能会在本世纪末成为现实。在他的讲述中，OpenAI 和 Anthropic 都优先考虑开发速度，而不是技术所需的彻底安全评估。

让这种批评更难被驳回的是还有谁在说这种批评。 Anthropic 的对齐科学主管 Evan Hubinger 承认，该公司缺乏解决与超级智能相关的对齐问题的明确策略。 Hubinger 公开估计，人工智能在未来十年内导致人类灭绝的可能性超过 10%。

在 9 月 13 日的“会见媒体”露面中，考克森强调，当前的人工智能模型不会构成直接的生存威胁。他认为，危险在于未来 6 到 12 个月内随着能力的不断扩展可能出现的情况。他的处方是：人工智能实验室和政府机构需要在监督框架上进行合作，以免技术超越任何治理能力。

Anthropic 的价值数十亿美元的时机问题

考克森辞职的时机值得注意，其原因超出了安全争论的范围。 Anthropic 一直在推动 IPO，该公司的估值可能高达 2 万亿美元。

Anthropic 长期以来一直将自己定位为“负责任的”人工智能实验室，该实验室非常重视安全性，发布详细的模型评估，并实施比竞争对手更严格的使用政策。考克森的批评表明，品牌与实践之间的差距可能比该公司面向公众的材料所暗示的更大。

一种模式，而非异常

考克森并不是第一个带着担忧离开大型人工智能实验室的专注于安全的研究人员。近年来，OpenAI 也因安全分歧而经历了备受瞩目的离职，包括解散其超级对齐团队。