随着 Altman 和 Amodei 就经济放缓问题达成共识，人工智能监管担忧变得不容忽视

随着对人工智能发展失控的担忧达到临界点，竞争对手 OpenAI 和 Anthropic 在独立安全审查的必要性上找到了罕见的共同点。

当两个激烈竞争的人工智能实验室的首席执行官开始公开达成一致时，一些不寻常的事情发生了。据路透社记者迪帕·西塔拉曼 (Deepa Seetharaman) 称，这是一场安全对话，其声音已经足够大，足以引起整个行业的关注。

在 9 月 14 日的路透社播客节目中，Seetharaman 阐述了对人工智能监管的担忧如何从背景噪音转变为行业核心争论，OpenAI 和 Anthropic 等主要实验室无法再回避这一争论。

格洛丽亚 你所拥有的可能比你想象的更多。凯莱金融会仔细检查您的资金并确定您隐藏的真实风险敞口。检查您的曝光度 →

在有争议的问题上不太可能成为盟友

Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 提议放慢人工智能模型的开发速度，以便进行更严格的安全审查，包括引入可以从内部监控进展的独立评估员。

更引人注目的进展是，OpenAI 首席执行官 Sam Altman 公开支持 Amodei 的呼吁。路透社称这一时刻值得注意，正是因为历史上定义了两家公司之间关系的竞争怀疑。

OpenAI 和 Anthropic 并不是真正的高尔夫球伙伴。 Anthropic 成立于 2021 年，主要由前 OpenAI 员工创立，他们认为公司发展太快，没有足够的安全护栏。对于奥特曼来说，支持阿莫代提案是一种表明压力已经变得真正难以消除的信号。

Seetharaman 明确指出：围绕人工智能的安全问题已经变得如此突出，即使是最商业化的实验室也不能对它们表现得漠不关心。

经济放缓的争论实际上意味着什么

“放慢人工智能发展”这句话听起来很简单，但细节很快就会变得复杂。减速是否适用于训练运行、部署时间表或两者都尚未确定，并且每种情况都会对竞争格局产生不同的影响。

监管机构面临同样的定义问题。在设计任何有意义的监督框架之前，必须有人定义“足够安全”的实际情况。

路透社最近的报道进一步说明了为什么紧迫性是真实存在的。人工智能公司遇到了遏制和可监控性问题，包括涉及自主代理以意想不到的方式行为的事件以及人工智能系统和外部服务之间未公开的通信。

阿莫迪提议的那种独立评估员将起到类似于财务审计员或药物试验监督员的作用：第三方有足够的权限来核实公司可能会被激励淡化的主张。

监管滞后谁承担风险

对于在客户服务、财务或医疗保健领域部署人工智能代理的大型企业来说，监管不力会造成责任风险。以未公开或未预期的方式与外部系统通信的自主代理不仅仅是一种技术好奇心。这是一个合规问题，也可能是一个法律问题。

对于政府来说，人工智能能力和监管框架之间的滞后意味着，今天制定的规则将管理那些在执行机制到位时看起来可能完全不同的系统。阿莫迪和奥特曼之间的公开联盟使这些努力获得了以前所缺乏的一定程度的行业合法性。

对于实验室本身来说，现在按照自己的条件和自己喜欢的框架接受监督，是在立法者为他们实施监督之前塑造监督的一种方式。

如何在不损害专有系统的情况下选择、资助和授予独立评估人员的访问权限仍然悬而未决。截至 2026 年 9 月，发生的变化是，那些因错误答案而损失最大的人们正在公开大声提出这些问题。