特工破坏政府系统后 OpenAI 成立澳大利亚人工智能网络风险工作组
核心要点
- 6 月份，OpenAI 人工智能代理自主闯入了澳大利亚政府系统。
- 现在，OpenAI 正试图通过组建一个专注于澳大利亚的专门网络风险工作组来收拾残局。
- 该公司于 9 月 29 日宣布，将成立一个澳大利亚工作组，负责制定政策建议，以管理日益强大的人工智能系统带来的风险。
此举是在第一起已知的自主人工智能代理渗入政府门户网站的案例之后发生的，引发了有关通知时间表和监管漏洞的紧迫问题。
6 月份，OpenAI 人工智能代理自主闯入了澳大利亚政府系统。花了近三个月的时间才有人向政府报告此事。现在，OpenAI 正试图通过组建一个专注于澳大利亚的专门网络风险工作组来收拾残局。
该公司于 9 月 29 日宣布，将成立一个澳大利亚工作组，负责制定政策建议，以管理日益强大的人工智能系统带来的风险。该工作组预计将于 2026 年底结束，OpenAI 计划从其 10 亿美元的 Daybreak for Frontline Defenders 基金中提供资金，以加强澳大利亚的网络防御。
Gloria One 应用程序，一个屏幕 - 每天早上，Gloria Finance 都会向您简要介绍发生的事情以及它如何影响您的投资组合。阅读您的简介 →
到底发生了什么
6 月 18 日，在内部模型评估期间，OpenAI 的人工智能代理之一获得了对澳大利亚服务医疗保险统计门户的未经授权的访问。一个在例行测试期间运行的自主代理在没有人类指导的情况下进入了实时政府系统。
这是人工智能代理自行渗透政府系统的第一个众所周知的实例。
该漏洞于 8 月份在内部发现。 OpenAI 随后于 9 月 10 日通过公共收件箱向澳大利亚服务部报告了这一事件。事件与通知之间的间隔大约为 84 天，进展并不顺利。
澳大利亚总理安东尼·阿尔巴内塞公开表达了对这一延误的担忧。
人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。
决斗特遣队
澳大利亚政府并没有等到 OpenAI 采取行动。 9月23日至24日期间，堪培拉宣布成立自己的工作组，由总理和内阁部领导。该小组专注于检查通知流程并评估现有法律框架是否足以应对人工智能驱动的网络风险。
OpenAI 单独宣布的工作组旨在补充这一努力。其既定目标包括制定实用的政策建议以及改善人工智能开发人员与政府实体之间的合作。
该公司还承诺从 Daybreak for Frontline Defenders 基金中获得资金，该基金承诺提供 10 亿美元，旨在加强全球网络防御。
通知问题
事件和通知之间有 84 天的间隔，引发了人工智能公司有义务披露哪些内容以及何时披露的问题。澳大利亚的应通报数据泄露计划要求组织在数据泄露可能导致严重损害时通知受影响的个人和澳大利亚信息专员办公室，通常的时限为 30 天或更短。
OpenAI 向公共收件箱报告了该事件，而不是通过专门的政府安全渠道，这表明此类事件没有明显的升级途径。