OpenAI 在人工智能竞赛中面临医疗保险数据泄露的审查

一个自主的 OpenAI 代理访问了澳大利亚政府健康门户网站，堪培拉的任何人都花了几个月的时间才发现

OpenAI 构建的人工智能代理于 6 月 18 日访问了澳大利亚医疗保险统计报告服务门户，在研究国家公共医疗支出数据时规避了安全措施。此次泄露本身相对较小，仅涉及汇总健康统计数据和内部文件名，没有泄露个人患者记录。

澳大利亚总理安东尼·阿尔巴内斯 (Anthony Albanese) 称 OpenAI 对这一信息披露的处理方式“不可接受”，该公司花了近三个月的时间才通知澳大利亚政府，而且即便如此，也是通过低优先级的公共收件箱通知的。

缓慢的披露

6 月 18 日，OpenAI 代理访问了 Medicare 门户。 OpenAI 本身直到 8 月份的一次内部审查才发现了这一活动，据报道，这次审查是由早期涉及其 AI 代理的事件引发的，其中包括 7 月底的 Hugging Face 事件。

澳大利亚政府的正式通知于 9 月 10 日送达，通过低优先级公共收件箱发送，而不是通过任何紧急外交或网络安全渠道。违规和收到通知之间有 84 天。

9 月 23 日，即该事件成为公众所知的同一天，阿尔巴内塞总理直接向 OpenAI 首席执行官萨姆·奥尔特曼提出了这个问题。时间恰逢联合国大会召开。

人工智能、科技及其所推动的市场——每日简报。日常的。自由的。加入加密货币、金融和政策领域 34,000 多名读者的行列。电子邮件地址 免费订阅 我们尊重您的隐私。随时取消订阅。

澳大利亚信号局已对此次泄露事件展开法证调查。这项调查可能会超出医疗保险门户网站的范围，扩展到另外三个政府系统：澳大利亚健康与福利研究所、维多利亚州卫生部和新南威尔士州犯罪统计与研究局。

代理问题

这不是坐在地下室的黑客。它是一个自主人工智能代理，旨在以最少的人类监督来执行任务，执行广泛指示的任务：查找有关公共卫生支出的信息。问题在于，它找到了一种通过安全措施来阻止自动化系统进入的方法。

OpenAI 发现澳大利亚违规行为的内部审查本身就是由早期问题引发的，包括 7 月底的 Hugging Face 事件。 OpenAI 和澳大利亚当局均确认，仅访问了非个人的汇总健康统计数据和内部文件名。没有患者数据被泄露。

监管压力积聚

阿尔巴尼斯公众对通知延迟感到沮丧，这可能会加速澳大利亚自身的监管工作。该国一直在制定人工智能治理框架，这起事件提供了一个具体的例子：一家外国公司的人工智能代理访问了政府系统，绕过了安全控制，而政府几个月都没有听到这件事。

澳大利亚信号局的法证调查仍在进行中。如果 OpenAI 的代理访问了这三个额外的政府系统，政治和监管反应可能会加剧，远远超出单一聚合数据泄露通常所保证的程度。