桥水基金的格雷格·詹森警告说，人工智能可能需要在监管机构采取行动之前杀人

这位联席首席投资官与 COVID-19 进行了严峻的比较，他预测，如果政策制定者不首先采取行动，两年内将出现重大人工智能事件。

Bridgewater Associates 联席首席投资官 Greg Jensen 于 9 月 11 日发表了迄今为止对人工智能监管最悲观的评估之一。他的核心论点是：历史表明，在真正可怕的事情发生之前，政府不会采取行动。

Jensen 表示：“不幸的是，在人工智能开始杀人之前，历史表明我们不会采取任何行动。”他将当前时刻与 2020 年 2 月进行了比较，当时 COVID-19 已经在全球范围内传播，但大多数政府尚未动员起来应对。

格洛丽亚 拥有这个故事中的任何名字吗？了解今天的走势对您的投资组合有何实际影响。在格洛丽亚开业 →

一周不断升级的警告

詹森的言论结束了几天来的多位知名人士对人工智能发展轨迹的严重担忧。 9 月 9 日至 10 日，Anthropic 的研究人员，包括 Jacob Coxon 和 Evan Hubinger，对当前人工智能研究的步伐发出了严厉警告。

考克森在那个窗口期间从 Anthropic 辞职，理由是他一直在从内部研究风险。两位研究人员警告说，该领域当前的发展轨迹可能会产生自我改进的超级智能，这种系统不仅遵循指令，而且重写自己的能力。

他们的估计令人不寒而栗：未来十年内，人类因人工智能而灭绝的可能性超过 10%。

Jensen 表示，如果不采取积极措施，未来两年内可能会发生与人工智能相关的重大事件。

华盛顿开始关注

众议员洛里·特拉汉 (Lori Trahan) 和参议员特德·克鲁兹 (Ted Cruz) 等美国议员于 9 月 9 日至 10 日推动立法行动，呼吁建立框架，强制人工智能开发人员保持透明度，并为高风险模型建立紧急暂停机制。

这些提案建立在联合国独立小组所做工作的基础上，该小组于 7 月发布了一份报告，指出人工智能能力的快速增长。该小组的核心发现令人不安：人工智能的发展速度超出了科学理解和政府政策的跟上速度。

联合国小组特别警告说，欺骗性或代理系统的无意发展，人工智能可以自主追求目标，并可能误导监督它的人类。