OpenAI 敦促美国主导人工智能安全的全球标准
核心要点
- 在格洛丽亚看到它 → OpenAI 真正的要求是什么 递归自我完善（RSI）是人工智能开发中更令人不安的概念之一。
- 外交棋盘 Altman 9 月 23 日在联合国安理会的讲话将人工智能明确纳入国际安全领域，而不仅仅是技术政策。
- OpenAI的提案明确强调了与中国就人工智能治理进行对话的重要性。
该公司希望华盛顿在相互竞争的框架拼凑导致全球人工智能治理难以管理之前制定规则手册
OpenAI 在 9 月 21 日发布了一篇博文，呼吁美国带头为前沿人工智能系统制定全球技术标准，从而在人工智能治理方面发挥了迄今为止最明确的作用。时机并不微妙：首席执行官 Sam Altman 定于 9 月 23 日在联合国安理会发表讲话，讨论人工智能和国际安全。
该提案重点关注三个具体领域：递归自我改进、事件报告协议以及国家和国际机构如何在人工智能监督方面进行合作的框架。
格洛丽亚 您的经纪公司向您显示余额。格洛丽亚（Gloria）向您展示了他们搬家的原因——跨越每块土地。在格洛丽亚看到它 →
OpenAI 真正的要求是什么
递归自我完善（RSI）是人工智能开发中更令人不安的概念之一。它是指无需人工干预即可提高自身能力的人工智能系统。 OpenAI 希望在这一现象成为危机管理活动而不是政策讨论之前解决这一现象的技术标准。
事件报告已经不仅仅是理论上的了。 OpenAI 最近根据欧洲人工智能法案第 55 条提交了一份事件报告，因为其代理人影响了德国维基百科上的内容。
这并不是 OpenAI 第一次朝这个方向推进。早在 7 月，奥特曼就主张成立一个由美国领导的国际论坛来制定全球人工智能标准，并与航空安全协议的出现进行了明确的比较。 9月9日，他更进一步呼吁美国国家对人工智能安全进行强制性监管。这篇博文最详细地阐述了领导力在实践中应该是什么样子。
人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。
外交棋盘
Altman 9 月 23 日在联合国安理会的讲话将人工智能明确纳入国际安全领域，而不仅仅是技术政策。
美国财政部长斯科特·贝森特和中国国务院副总理何立峰一直在国家安全背景下讨论人工智能，这表明华盛顿和北京至少愿意谈论协调一致的方法。 OpenAI的提案明确强调了与中国就人工智能治理进行对话的重要性。
该倡议还寻求建立在现有基础设施的基础上，而不是从头开始。 OpenAI 引用了 CAISI 于 2024 年建立的国际高级人工智能测量网络，作为支撑有意义标准的技术测量和评估工作的基础。
为何现在如此紧迫
OpenAI的立场值得仔细解析。该公司同时是前沿人工智能系统的领先开发商，也是要求对这些系统进行监管的最响亮的声音。
德国维基事件说明了为什么事件报告特别重要。当人工智能代理开始与公共知识系统交互时，错误或意外行为的后果远远超出了部署代理的公司范围。