前 DeepMind 安全研究人员警告人工智能不得超越安全控制
核心要点
- 由于安全研究人员退出并警告灾难性风险，杰米斯·哈萨比斯支持放慢前沿人工智能的步伐 帮助构建了一些地球上最强大的人工智能系统的人现在表示，该行业需要踩刹车。
- 谷歌 DeepMind 联合创始人兼首席执行官 Demis Hassabis 于 2026 年 9 月公开支持放慢前沿人工智能开发速度，让安全研究
由于安全研究人员退出并警告灾难性风险，杰米斯·哈萨比斯支持放慢前沿人工智能的步伐
帮助构建了一些地球上最强大的人工智能系统的人现在表示，该行业需要踩刹车。谷歌 DeepMind 联合创始人兼首席执行官 Demis Hassabis 于 2026 年 9 月公开支持放慢前沿人工智能开发速度，让安全研究有机会赶上快速发展的能力。
他的言论与实验室内部越来越多的警报一致，实验室内部的研究人员不仅提出了担忧，还走出了实验室。
凯莱 询问有关任何股票的任何问题 — 凯莱财经在几秒钟内为您提供完整的、有数据支持的答案。询问格洛丽亚 →
放慢速度的理由
哈萨比斯的立场与 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 的一篇文章相呼应，他认为人工智能能力的增强有可能超出旨在对其进行控制的控制机制。
早在 2026 年 7 月，哈萨比斯就提议创建一个由美国主导、行业资助的标准机构，旨在对前沿模型进行预发布测试。重点领域：网络安全漏洞、潜在生物威胁和代理行为，这意味着人工智能系统可以在人类监督最少的情况下在世界上自主行动。
安全研究人员用脚投票
DeepMind 前 AGI 安全研究员 Bilal Chughtai 于 2026 年 7 月辞职。到 9 月中旬，他公开警告人工智能有可能“杀死我们所有人”，开发适当的对齐方法的窗口正在快速关闭。
人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。
DeepMind AGI 安全团队的另一名成员 Josh Engels 于 2026 年 9 月上旬离职，加入 METR，这是一个专注于评估人工智能风险的组织。恩格斯引用了他所说的自我改进的人工智能系统产生灾难性结果的“可怕机会”，并建议这些结果可能在五年内实现。
一封由来自前沿 AI 实验室的 1,300 多名研究人员签署的公开信强调了同样的基本张力：能力的进步速度快于该领域对如何控制它们的理解。
标准机构实际上是什么样子
哈萨比斯确定的三个重点领域：网络安全、生物风险和代理行为，代表了一些后果最严重的故障模式。能够自主发现新颖的网络攻击向量或协助设计危险的生物制剂的人工智能系统，与生成一篇糟糕的论文或产生合法引用的幻觉是一种本质上不同的风险。