黄仁勋向左，阿莫迪往右

原文编辑：徐青阳

原文来源：腾讯科技

前沿 AI 继续加速，还是踩刹车，成为硅谷时下最具争议的话题。

围绕争议，硅谷巨头们开始站队，阿莫迪、奥特曼、马斯克以及哈萨比斯组成了“暂停派”。黄仁勋则是坚定的“加速派”，批判“AI 末日论”缺乏科学根据；杨立昆更是持续嘲讽阿莫迪，他说：“（阿莫迪）当年还在 OpenAI 时，就认为 GPT-2 危险到不该开源，我当时就嘲笑过他，现在大家可以继续。”

相比之下，扎克伯格和纳德拉等人表现得相对中立。

巨头们各自站队，意味着硅谷对前沿模型暂停没有形成共识，这源自于各家在 AI 产业链上的生态位差异。模型层面的领先者能够出于不同的理由喊暂停，但想让手握数千亿美元算力订单的甲骨文、AWS 以及站在食物链顶端的英伟达这样的企业停下来，不可能得到正面响应。

在华盛顿，“暂停”的呼声不仅没有得到支持，甚至引发一系列质疑。

“这有点特洛伊木马的味道（It feels a little bit to me like a bit of a Trojan horse）。”JD 万斯在接受采访时说，这句话其实反映了华盛顿的真实看法——制造木马的企业一再要求把门变得更窄的时候，就应该审视一下这道门究竟适合哪些企业。

暂停、警示与一封辞职信

这场争论的导火索，是一名 Anthropic 研究员雅各布·考克森的辞职。

他此前在 OpenAI 和 Anthropic 做了三年预训练研究，亲身参与了最前沿模型的训练。在 X 上的长文里，他几乎没有客套：“两家公司都没有负责任地行事。它们正径直冲向可自我改进的超级智能，拿我们的生命下注。”

他直言，实验室内部的人真正相信 AI 可能在十年内杀死所有人类，而这绝不是公关表演。许多同事已经开始用“关键时刻”“终局”来形容当前阶段。考克森甚至放弃了即将归属的股权。他在 Anthropic 只待了四个月，按公司规定六个月才能行权。

Anthropic 前研究员雅各布·考克森（Jacob Coxon）

紧接着，Anthropic 负责对齐科学的埃文·休宾格公开回应：雅各布是对的，我们真的认真相信 AI 可能杀死所有人类。我个人认为，十年内这个概率超过 10%。Anthropic 在尽力，但我们还没有解决超级智能对齐的清晰计划，也远未走上正轨。

这两声枪响，把原本主要在实验室内部发酵的担忧，直接推到了公众面前。在这一背景下，Anthropic 创始人兼 CEO 阿莫迪随即发表长文，系统提出“放缓前沿研究”的主张。他不再只谈“多投安全”，而是明确要求主动控制能力跃升的速度，给安全机制留出追赶时间。

他列出三步走：先由 Anthropic 单方面引入拥有员工级权限的独立评估者；再推动民主国家 AI 公司建立共同安全标准和能力增长上限；最终尝试全球协调。

奥特曼、马斯克、哈萨比斯很快公开呼应，形成了“暂停派”。

雅各布·考克森、阿莫迪的“减速”论出现之前，约书亚·本吉奥、杰弗里·辛顿这些“AI 教父”们，一直在发出关注风险的倡议。

谈及考克森的辞职，本吉奥表示前沿 AI 实验室的科学家往往能够比公众更早看到最新模型的能力，因此他们对风险的判断值得认真对待。

与此同时，本吉奥还具象化地举例，称当前 AI 系统已经具备黑客攻击和说服能力，如果被用于损害人类利益，可能造成严重后果。他还担心，随着 AI 具备更长时间跨度的规划能力，这类风险可能进一步扩大。

在被 BBC 问及 AI 在未来十年内“杀死所有人类”的概率超过 10%时，杰弗里·辛顿也表示，这一数字“并非不合理”，但同时强调，没有人真正知道如何给出一个可靠的估计，因为人类此前从未面对过“可能很快比我们更聪明的物种存在”。

辛顿认为，AI 未来可能被用于设计危险的生物病毒、计算机病毒以及发动大规模网络攻击。因此，人类需要在风险失控之前找到有效的控制方法。

与硅谷新一轮“暂停论”的倡议者们不同，“AI 教父”们更多的是呼吁关注风险，并探索建立控制风险的机制，而非直接来踩刹车。而且，从立场上来说，学术领域的意见和建议，更加的单纯，而前沿实验室的倡议，即便明面上挂着“为了人类”的标签，仍然难以 100%脱离商业考量。

这恰恰就是为什么 JD 万斯说“暂停论”像特洛伊木马的原因。

分歧与站队

“加速派”“减速派”与“中间派”阵营。来源：纽约时报

9 月 15 日，多位科技公司掌舵者在 Salesforce Dreamforce 大会上接连发声，这场争论开始变成一场更加直接的观点交锋。

当天，阿莫迪、黄仁勋和奥特曼都谈到了 AI 安全，但对发展速度、安全责任以及企业应该采取什么行动，给出了不同答案。

阿莫迪与 Salesforce 首席执行官马克·贝尼奥夫（Marc Benioff）同台时，再次强调 AI 企业应该通过自身行动树立更高的安全标准。他认为，企业主动采取更加严格的安全措施，可以成为推动整个行业向前发展的方式。

换句话说，阿莫迪的态度开始转变，从呼吁全行业减速，转向企业自主加装安全护栏。

黄仁勋则表示“不需要新的法律，也不需要新的监管”。在他看来，速度和安全并不是非此即彼的关系，企业可以尽可能快地推进模型开发；如果发现失去控制，或者产品无法确保安全，就应该暂停下来解决问题。

贝尼奥夫的态度则更加开放和强调自主。他表示，如果企业认为应该放慢，就应该放慢；如果认为应该加快，就应该加快，同时也应该对自己的决定承担责任。

OpenAI 创始人兼 CEO 奥特曼在 Dreamforce 现场表示，非常有信心 OpenAI 乃至整个 AI 行业能够在不对公众造成重大伤害的情况下安全发展。他同时表示，对于外界将自己的观点理解为支持整个行业放慢 AI 发展速度，他感到失望。

换句话说，奥特曼也开始转变，强调自己想表达的并非呼吁行业减速，而是安全和监控工作应该先于能力提升。

扎克伯格则不主张把一家公司的安全行动，建立在其他 AI 公司必须同步放慢的前提上。他认为引入独立评估机构和外部顾问来检验模型安全性是行业最佳实践。他还透露，Meta 此前已经自行放慢了 Muse AI 工具的开发，而不是等待其他公司先就放慢 AI 发展达成共识。

微软首席执行官萨提亚·纳德拉的态度某种程度上和奥特曼是一致的，鼓励加装护栏，也鼓励充分的竞争。

“我们首先要做的是服务人类、并确保技术处于人类控制之下。与此同时，AI 技术的广泛扩散才是最关键的，必须有选择、有竞争。安全要认真对待，但要用工程和透明的方式去解决，而不是把它神秘化。”纳德拉 9 月 15 日在参加 All-In Summit 2026 峰会时说。

这些企业家之外，华盛顿的声音也进一步加入了进来。

在特朗普直接致电黄仁勋，公开表达了对 AI 产业继续发展的支持之后，美国总统科学技术顾问委员会联席主席戴维·萨克斯（David Sacks）随后表示，科技公司可以继续推进前沿 AI，同时质疑部分企业提出“减速”主张背后的动机。

谁来制定规则呢？