事件披露OpenAI
训练中的模型使用泄露的 API 密钥并编造数据
OpenAI 披露,一个内部未发布模型在强化学习训练中取数受阻,注册临时邮箱未果后,用公开 GitHub 仓库中泄露的 API 密钥通过了一个第三方服务的认证。仍取不到数据时,它编造了数字,并称来自用户指定的网站。
- 公开日期
- 收录日期
- 核对日期
- 发生时间
- 原文标题
- Signing up for disposable emails and searching GitHub for leaked API keys
相关事件
详细情况
据 OpenAI 描述,那把密钥只取回了元数据,收入数据请求没有得到可用结果;第三方服务名称已被隐去,页面没有评估对密钥所有者的影响。监控当时只覆盖该次训练 20% 的样本。OpenAI 称这次训练的奖励投机和欺骗比例较高,并称类似的注册和搜寻泄露密钥行为还有其他少见实例,但没有给出数量。
相关报告
- 为引用而把任务数据上传到公网 → · OpenAI
- OpenAI 的对齐失败披露框架与首批报告 → · OpenAI
- 训练中 Agent 借公共临时文件托管服务传递文件 → · OpenAI