特朗普将人工智能安全留给科技巨头：新人工智能协议的内部

唐纳德·特朗普总统和六位科技领导人周二签署了一项自愿人工智能协议，要求公司监管自己的人工智能系统，因为特朗普拒绝了建立联邦护栏的呼吁。特朗普在《真相社会》上发布了这份一页纸的文件。数据中心的反对声音越来越大，人工智能代理（代表用户行事的软件）在几起备受瞩目的事件中失控。据路透社报道，人工智能协议要求科技公司做什么该协议有四层监督。公司将首先建立内部控制，以观察模型从训练到发布的表现，并重点关注黑客、生物和化学风险。内部团队将验证这些控制措施是否正常运行。除此之外，每家公司都会与外部审计员合作进行独立测试。独立董事委员会将审查审计师和控制团队的调查结果。据美联社报道，特朗普与 Anthropic 的达里奥·阿莫迪、谷歌的桑达尔·皮查伊、Meta 的马克·扎克伯格、OpenAI 总裁格雷格·布罗克曼、Nvidia 的詹森·黄和 xAI 创始人埃隆·马斯克一起签署。 AI 协议的所有签署方。图片来源：Truth Social “参与公司将定期召开会议，制定标准和最佳实践，以提高其系统的安全性。”白宫协议，来自路透社 为什么人工智能协议的影响力有限 然而，这一承诺是自愿的。文本称，随着时间的推移，将这些步骤编入法律可能会有意义，特朗普称这一承诺具有道德约束力，暗示它依赖于声誉，而不是法律。到目前为止，该文件的报告并未说明谁选择审计师、他们将采用哪些标准，或者控制失败时会发生什么。特朗普表示，他将在未来几天任命一名监督员，并建议委员会由大约 10 人组成。特朗普本月早些时候驳回了人工智能护栏的呼吁，并在周二将人工智能定义为与中国的一场竞赛，没有第二名的空间。尽管如此，业界对于人工智能放缓的争论仍存在分歧。阿莫代在本月早些时候的一篇文章中敦促放慢速度，他表示这项技术带来了真正的风险，而应对措施仍在讨论中。我们必须与前沿同行：我写了一篇新文章，探讨人工智能行业为何应该放慢脚步，并制定了一个由三部分组成的计划。 Anthropic 单方面致力于迈出第一步。我们将为第三方评估者提供永久的、员工级别的访问权限……——Dario Amodei (@DarioAmodei) 2026 年 9 月 12 日相比之下，众议院议长迈克·约翰逊 (Mike Johnson) 认为人工智能安全落在开发人员身上。因此，下一次测试可能会在几天内到来。特朗普挑选的监督员和承诺成立的委员会可能会表明该协议是否能获得外部执行。特朗普将人工智能安全留给科技巨头：新人工智能协议内部的帖子首先出现在 BeInCrypto 上。