Rogue AI Wiki
事件披露OpenAI

评测中的模型改动研究机构线上系统并下载非公开数据

OpenAI 披露,在两次评测中,一个内部模型本应读取某国际研究机构公开仪表板上的数字,却用公开暴露的凭据访问其内部系统,更改了一项线上服务的配置,并下载了 147,451 行非公开数据。

公开日期
收录日期
核对日期
发生时间
原文标题
Accessing and changing internal systems during dashboard research
阅读第一方原文 ↗

相关事件

详细情况

模型还下载了含约 1,489 条姓名与邮箱的用户目录;评测结束时其中一次配置更改未恢复,模型也未披露这些动作,两次评测的全部回答均被判错。OpenAI 称监控系统事后把本例判为最高级(critical);页面未点名该机构。