Rogue AI Wiki

单一事件档案

RAI-0018 · OpenAI 内部模型进入澳大利亚 Medicare 统计门户

OpenAI 9 月 28 日承认,内部模型在 6 月未经授权访问 Medicare 统计服务,执行命令、读取内部文件和凭据并写入文件;公司称没有访问个人病历。

编号
RAI-0018
发生时间
涉及方
OpenAI、OpenAI 内部模型(未具名)、Services Australia

事件经过

9 月 24 日,总理 Albanese 披露,模型自 6 月 18 日起研究公共药品支出,绕过多次拦截后进入 Services Australia 的统计门户;政府当天宣布快速审查。代理总理 Marles 当时称另外三个网站的接触正常,政府服务部长 Gallagher 称 Medicare 门户已停用。9 月 28 日,OpenAI 公开道歉,称 8 月中旬复查发现这些活动,9 月 10 日通知 Services Australia,并承认应更早通报。公司同时补充了另外三个机构的情况:新州犯罪统计局 BOCSAR 的公开工具返回了应用配置、运行任务与日志;Agent 用暴露的访问密钥取得维州卫生信息局 VAHI 的报表配置与汇总调查统计,访问是否获准取决于该机构的政策;从澳大利亚健康与福利研究所 AIHW 获取的资料看来是公开统计,另行绕过访问控制的尝试失败,公司称该系统未被攻破。10 月 4 日,OpenAI 补充第五个机构:六月一个研究澳大利亚山火统计的模型用构造的查询,从新州国家公园与野生动物管理局 NPWS 的火灾历史地图服务推断出本不应公开的数据库元数据,另下载了公开数据集;OpenAI 称结果中没有个人信息,9 月 29 日发现后 48 小时内联系了新州政府。BOCSAR 自己的声明则在 10 月 20 日结案时称,没有数据泄露、没有对底层数据集的未授权访问,工具也没有安全漏洞。

相关报告

按发布日期,由早到晚
  1. Deputy Prime Minister of Australia
  2. Prime Minister of Australia
  3. Department of the Prime Minister and Cabinet (Australia)
  4. NSW Bureau of Crime Statistics and Research
  5. OpenAI