Chris Hughes 提议设立“人工智能监管办公室”来监管人工智能实验室

Facebook联合创始人希望政府监管机构融入前沿人工智能公司，借鉴银行监管的经验

Facebook 联合创始人之一克里斯·休斯 (Chris Hughes) 呼吁成立一个名为“人工智能监管办公室”的新政府机构，将监管团队直接置于世界上最先进的人工智能实验室内。 《金融时报》评论文章中提出的这项提案设想了一种借鉴金融部门的模式，几十年来，嵌入式审查员一直是银行监管的固定手段。

其核心理念很简单：将政府工作人员安排在 OpenAI、Anthropic 和 Google DeepMind 等公司内部，进行三年固定轮换。三年后，监管机构将继续前进，并由新团队取代。轮换机制的目的是防止当同一个监管机构无限期地监控同一家公司时往往会形成亲密关系，监管机构将这一问题称为“捕获”。

格洛丽亚 拥有这个故事中的任何名字吗？了解今天的走势对您的投资组合有何实际影响。在格洛丽亚开业 →

银行监管如何成为人工智能蓝图

三年任期限制是经过深思熟虑的设计选择。在银行业，对嵌入式监管的持续批评之一是审查员开始通过机构的眼睛看世界。按固定时间表轮换员工是为了控制这种动态，确保监管机构即使在大楼内操作时也能保持局外人的怀疑态度。

休斯更广泛的监管愿景

这并不是休斯第一次涉足人工智能治理倡导领域。 2025 年 2 月，他制定了更广泛的框架，其中包括培训成本超过 1 亿美元的人工智能模型的安全协议、注册要求和第三方验证。这个门槛值得注意，因为它实际上只针对最大的前沿模型，这些模型是由少数公司构建的，这些公司拥有在一次训练中花费九位数的资源。

他早期的提议还包括高成本人工智能模型的“终止开关”概念，这种机制允许系统在表现出危险或意外行为时关闭。结合强制性测试制度和事件报告，休斯一直在建立一个全面的监管架构，将先进的人工智能开发视为核能而不是软件。

宏观、利率和加密货币——是什么推动了市场以及接下来重要的是什么。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

人工智能监管办公室的提案符合有关如何管理前沿人工智能的全球激烈讨论。加利福尼亚州的 SB 1047 对大型人工智能模型提出了安全要求，尽管业界存在重大争议，但仍被州长加文·纽瑟姆 (Gavin Newsom) 否决。英国人工智能安全研究所一直在对前沿模型进行评估，而欧盟人工智能办公室正在努力实施欧盟的人工智能法案。

他的方法与许多竞争提案的区别在于强调存在而不是过程。大多数监管框架都关注公司必须做什么：提交报告、进行评估、达到基准。休斯建议将监管机构嵌入其中，实时观察事态发展，而不是事后进行审查。

这对人工智能行业意味着什么

对于 OpenAI、Anthropic 和 Google DeepMind 这三家最明显成为目标的公司来说，政府团队在其设施内运作的前景代表着一个重大转变。这些公司建立了内部安全团队并发布了自愿承诺，但拥有具有机构权威的外部监管机构是一种根本不同的安排。

该提案还提出了休斯的专栏文章未能完全解决的实际问题。该办公室将设在哪个机构？嵌入式员工需要什么资格，政府在哪里可以找到足够的具有技术专业知识的人来有效地监督甚至连其创建者也不完全理解的系统？银行审查员受益于数十年的既定方法和明确的财务指标。人工智能监管需要从头开始建立同等的机构知识，而技术本身的发展速度使得银行业相比之下显得缓慢。