马克·扎克伯格和人工智能高管签署自愿白宫安全协议

特朗普与 Meta、OpenAI、Nvidia、谷歌和微软的领导人举行午餐会，公布他所谓的“具有道德约束力”的人工智能安全审查框架

9 月 29 日，美国总统唐纳德·特朗普 (Donald Trump) 在白宫聚集了人工智能领域最有影响力的人士参加午餐会，最终集体签署了一项自愿人工智能安全协议。马克·扎克伯格、黄仁勋、埃隆·马斯克以及来自 OpenAI、谷歌和微软的高管都签署了一份特朗普称之为“具有道德约束力”的文件。

该协议的重点是加强对前沿人工智能模型的安全审查、内部和外部审计，以及让公司自我监管而不是面临政府强制要求的自律框架。

该协议实际上做了什么

该框架要求在部署之前和之后对先进人工智能模型进行严格的内部和外部审查。签署协议的公司承诺实施安全控制、审计机制和监督协议，旨在在危险能力到达公众之前将其捕获。

特朗普将该文件与宪法进行了比较。 “具有道德约束力”的标签意味着这些公司承诺遵守规定，但如果不这样做，就没有人上法庭。

特朗普还提议成立一个十人监督委员会，以帮助指导未来的人工智能监管。

特朗普提议业界完全停止使用“人工智能”一词，而采用“超级智能”。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

自愿承诺的模式

这并不是硅谷第一次聚集在宾夕法尼亚大道 1600 号做出有关人工智能安全的承诺。 9 月 29 日达成的协议建立在一系列可追溯至 2023 年的自愿承诺的基础上，这些承诺涵盖现任政府和前任政府。

拜登白宫于 2023 年 7 月从许多相同公司获得了自己的一轮自愿承诺，重点是对人工智能生成的内容加水印、共享安全研究以及在发布前测试模型的风险。

嘉宾名单讲述一个故事

马斯克的出现增添了一层阴谋。他一直是人工智能安全捷径最强烈的批评者之一，在离职前与他人共同创立了 OpenAI，后来又起诉该公司，称其背叛了其最初的非营利使命。与 OpenAI 领导层坐在同一张桌子上签署共享安全文件至少是一项外交成就。

这对人工智能治理和市场意味着什么

消息公布后，市场并未立即做出任何反应。通过倡导自我监管，特朗普政府实际上是在告诉人工智能行业，它不会面临欧盟在人工智能法案中所追求的那种严厉监管。

如果拟议的十人监督委员会获得真正的权力，它可能会改变计算方式。一个有权审查前沿模型并建议执行行动的机构将代表着超越自愿承诺的有意义的一步。