大卫·萨克斯批评“Pace The Frontier”计划是监管捕获
核心要点
- 白宫人工智能顾问认为 OpenAI 和 Anthropic 正在利用安全言论来锁定其市场主导地位 白宫首席人工智能顾问戴维·萨克斯 (David Sacks) 点名人工智能领域的大腕们，认为这是一场穿着安全服的愤世嫉俗的表演。
- 9 月 13 日，萨克斯公开批评 OpenAI 首席执行官 Sam Alt
白宫人工智能顾问认为 OpenAI 和 Anthropic 正在利用安全言论来锁定其市场主导地位
白宫首席人工智能顾问戴维·萨克斯 (David Sacks) 点名人工智能领域的大腕们，认为这是一场穿着安全服的愤世嫉俗的表演。 9 月 13 日，萨克斯公开批评 OpenAI 首席执行官 Sam Altman 和 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 支持一项名为“Pace The Frontier”的运动，该运动旨在协调推动减缓先进人工智能系统的发展。
“Pace The Frontier”实际上提出了什么
该倡议于 7 月 28 日以公开信形式启动，由来自主要 AI 组织的超过 1,134 名个人签署，其中包括 Google DeepMind、Meta、OpenAI 和 Anthropic 的员工。到 9 月中旬，签署人数已突破 1,300 人。
Gloria 准确了解巴菲特、索罗斯和潘兴广场正在购买什么——然后在 Gloria Finance 中反映明智的资金。跟随伟人 →
这封信并未要求立即停止人工智能研究。相反，它呼吁各国政府支持能够协调国际决策的工具，旨在减缓前沿人工智能的发展步伐。
这一运动源于人工智能行业日益增长的安全担忧，特别是在一些事件引发了人们对先进人工智能系统的自主性和不可预测性的警报之后。产品责任风险，包括涉及 Hugging Face 等平台的事件所强调的风险，增加了对话的紧迫性。
7 月推出的两党边境法案反映了对某种形式的人工智能监管的更广泛的政治兴趣。
萨克斯的监管捕获论点
萨克斯提出了与“Pace The Frontier”相关的监管提案，包括要求反垄断豁免，以允许竞争对手在安全标准上进行协调，作为教科书的监管捕获。
他的逻辑是这样的：OpenAI 和 Anthropic 已经在前沿人工智能领域占据了相当大的市场份额，收入的快速增长巩固了他们的地位。如果政府制定限制发展速度的国际框架，那么已经处于前沿的公司就会留在那里，而其他公司则被告知在到达之前放慢速度。
萨克斯还指出，中国不太可能参与任何减缓人工智能发展的全球协调行动，从国家竞争力的角度来看，整个行动可能会弄巧成拙。
萨克斯认为，开发人员应该自愿优先考虑其产品的可靠性和可预测性，而不是政府强制的节奏。他指出，市场压力已经朝这个方向发展，这表明客户越来越青睐那些能够持续工作的人工智能系统，而不是那些以牺牲可靠性为代价突破能力界限的人工智能系统。