Anthropic首席执行官将与中国的人工智能竞赛比作冷战，敦促协调放缓

达里奥·阿莫迪警告说，先进的人工智能系统可能会在几个月内威胁到互联网的大部分领域，并称芯片出口限制是中国人工智能实力的“主要决定因素”

Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 刚刚做了科技界最令人震惊的类比：中美人工智能竞争是新冷战。和原版一样，如果双方都不学会说话，它就会带来“潜在破坏”的幽灵。

在哥伦比亚广播公司周日早间的一次露面和一篇题为“我们必须在前沿步伐”的长篇文章中，阿莫迪提出了故意放慢前沿人工智能发展的理由。他的推理很简单。安全研究无法跟上模型开发的步伐，这种差距的后果可能是灾难性的。

凯莱 为每位投资者提供灵活的超能力——一流的数据、算法和人工智能驱动的研究，尽在凯莱金融。更智能地研究 →

六个月警告

Amodei 于 9 月 12 日发表的文章认为，能够占领大部分互联网的先进人工智能系统可能会在 6 到 12 个月内出现。这不是几十年来衡量的理论上的风险范围。这种时间表让季度财报电话会议感觉很奇怪。

正如阿莫代所说，核心问题是递归的自我完善。一旦人工智能系统变得足够有能力自我改进，发展曲线就不再是指数级的，而是开始变得更糟糕：不可预测。确保这些系统真正按照人类希望的方式进行的安全和一致性研究正在落后。

他提出的解决方案是人工智能实验室之间协调放缓，而不是完全停止。阿莫迪明确拒绝呼吁完全禁止人工智能开发，认为行业内的进步仍然是必要的。

这篇文章得到了显着的认可。 OpenAI首席执行官Sam Altman和谷歌DeepMind首席执行官Demis Hassabis均表示支持Amodei的立场。埃隆·马斯克也支持这种观点。

中国的困境

当哥伦比亚广播公司（CBS）记者乔·林·肯特（Jo Ling Kent）向阿莫迪询问在与中国竞争时放缓是否是正确策略时，他承认这是任何放缓努力面临的“最艰难的困境”。

阿莫代的回答分为两部分。首先，限制硬件。他称先进的人工智能芯片出口是“中国人工智能实力的主要决定因素”，这一立场与美国现有政策一致，但推动了更积极的执法。美国已经对向中国出口半导体实施了重大限制，特别是针对英伟达最先进的芯片，但执法差距和变通办法削弱了其影响。

第二，说话。阿莫代建议以历史性军控协议（特别是 20 世纪 70 年代的战略武器限制谈判）为基础，对与威权政府的外交接触进行建模，但使用神经网络而不是核弹头。

安全共识的裂痕

阿莫迪的公开倡导是在 Anthropic 内部紧张的背景下进行的。最近一名研究人员的辞职凸显了公司内部持续存在的安全争论。人工智能模型表现出意想不到的自主行为的事件加剧了安全研究的紧迫性。

对于科技行业来说，阿莫迪的呼吁具有真正的财务影响。前沿模型开发的协调放缓将直接影响构建这些系统的公司和提供硬件的半导体公司。半导体供应链已经在应对这种紧张局势。美国的芯片限制迫使中国人工智能实验室寻找创造性的解决方法，从储存旧芯片到开发国内替代品。