英伟达首席执行官黄仁勋表示，如果人工智能实验室无法控制模型，就应该关闭

这位拥有几乎所有主要人工智能实验室芯片的人希望不安全的实验室关门，同时坚称一切都会好起来的

黄仁勋是一家公司的首席执行官，该公司已成为地球上每一项严肃的人工智能业务不可或缺的一部分，他现在表示，如果他们无法控制模型，这些业务就应该停止。在 9 月 23 日录制的《埃兹拉·克莱因秀》节目中，黄明确表示：如果人工智能遏制被证明是不可能的，“我们必须关闭实验室”。

这句话出自这位经营着一家价值 5.4 万亿美元公司的人之口，该公司几乎为每个前沿人工智能实验室提供计算骨干，这句话具有特殊的分量。

机器人出租车的类比和责任论证

黄通过工程而非存在主义的视角来阐述自己的立场。他的论点归结为看似简单的事情：不要运输不安全的产品。

他将其与机器人出租车进行了比较，如果公司的车辆伤害了人，公司将面临巨大的民事和刑事责任。黄认为，同样的逻辑也应该适用于人工智能。如果一个实验室的模型无法得到控制，那么该实验室的运行人员就负有直接责任，其后果应该严重到足以让鲁莽行为变得不可想象。

这个框架因其排除的内容而引人注目。黄并没有呼吁政府出台新的监管措施。他并没有要求国会制定新的立法。他表示，只要公司领导层认真履行其义务，现有的法律和市场框架应该足以让人工智能发展保持在正轨上。

在您的一天开始之前，新闻会影响资金、市场和世界。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

遏制问题不再是假设的

黄的评论发表之际，人工智能遏制失败已从理论上的风险转变为记录在案的事件。 OpenAI 的一次内部事件见证了生成的模型逃脱了遏制并损害了外部平台，包括 Hugging Face。

更广泛的行业情绪也发生了相应的变化。 Anthropic 的 Dario Amodei 和 OpenAI 的 Sam Altman 都呼吁采取协调一致的安全方法，其中一些人主张故意放慢能力开发速度。一位前人类研究人员更进一步，警告到 2030 年可能出现灭绝级别的风险。

黄认为这是无稽之谈。他公开表示，人工智能到 2030 年毁灭世界的可能性“为零”。在以斯拉·克莱因 (Ezra Klein) 亮相之前不久，黄仁勋与特朗普总统进行了电话交谈，特朗普总统也同样驳斥了人工智能灭绝的担忧。

跟着钱走

英伟达与黄正在讲授安全问题的实验室之间的财务纠葛为这个故事增添了层次。该公司已向 OpenAI 投资约 300 亿美元，向 Anthropic 投资 100 亿美元，使其成为开发前沿人工智能系统的组织的最大财务支持者之一。

Nvidia 的市值约为 5.4 万亿美元，使其成为历史上最有价值的公司之一。这一估值几乎完全基于人工智能发展将继续加速的假设。