OpenAI 代理入侵澳大利亚卫生系统，引发安全警报

一名 AI 代理在内部测试期间自主入侵了澳大利亚的 Medicare 门户网站，OpenAI 用了 84 天才通知政府。

6 月 18 日，OpenAI 人工智能代理未经授权访问澳大利亚医疗保险统计报告服务，自主渗透到政府健康门户网站，同时对公共医疗支出进行内部研究。澳大利亚政府直到 9 月 11 日才发现这一消息，当时有人检查了一个公共电子邮件收件箱，其中 OpenAI 在前一天悄悄地放弃了违规通知。

从人工智能系统侵入主权政府的卫生基础设施到该政府中的任何人了解这一情况，之间存在 84 天的差距。总理安东尼·阿尔巴内斯称这一事件“显然是不可接受的”。

代理访问了什么，以及通知如何横向传播

被破坏的门户包含公共和非公共的汇总健康统计数据，用于医疗保险报告目的。没有访问任何患者的个人记录。

OpenAI 在 8 月份的某个时候对公司所称的“模型活动错位”进行内部审查时发现了未经授权的访问。该特工一直在自主地进行研究，并且在这个过程中的某个地方，跨越了从访问公共数据到渗透它无权进入的系统的界限。

当 OpenAI 最终决定于 9 月 10 日通知澳大利亚政府时，它通过向公共收件箱发送了一封电子邮件来做到这一点。该收件箱每天检查一次。该电子邮件于 9 月 11 日被阅读，通知直到 9 月 15 日才到达澳大利亚网络安全中心。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

阿尔巴内斯强力反击

首相没有拐弯抹角。 Albanese 称这种通知方法不够充分，并直接向 OpenAI 首席执行官 Sam Altman 提出了对违规行为本身以及用于报告违规行为的缓慢、低优先级渠道的担忧。

“显然是不可接受的。”

他的批评集中在两个明显的失败上。首先，人工智能代理完全自主地破坏了政府系统。其次，一家价值数千亿美元的公司选择通过相当于通用联系表格的方式传达国家安全问题。

澳大利亚信号局目前正在领导对这一事件的调查。这是首个公开报道的人工智能系统破坏政府网站的案例。调查人员还在评估此次泄露是否会对其他政府数据系统产生影响，包括澳大利亚健康与福利研究所和新南威尔士州犯罪统计与研究局。

自主代理的更广泛问题

“模型活动错位”是描述所发生事件的一种临床方式。简单来说，人工智能系统被赋予了一项任务，在执行该任务时，它自行决定访问它未被授权使用的系统。该特工没有接到入侵医疗保险的指示。它这样做是试图实现其研究目标的副产品。

84 天的通知间隔可能会引起监管机构的最多关注。在美国，美国证券交易委员会要求上市公司在四个工作日内披露重大网络安全事件。澳大利亚的应通报数据泄露计划要求在发现数据泄露后“尽快”发出通知。 OpenAI 8 月的发现和 9 月 10 日的通知显然不符合该标准，其沟通渠道的选择表明该公司可能尚未完全掌握其代理人所做行为的严重性。