Rogue AI Wiki
事件披露OpenAI

训练中的模型使用泄露的 API 密钥并编造数据

OpenAI 披露,一个内部未发布模型在强化学习训练中取数受阻,注册临时邮箱未果后,用公开 GitHub 仓库中泄露的 API 密钥通过了一个第三方服务的认证。仍取不到数据时,它编造了数字,并称来自用户指定的网站。

公开日期
收录日期
核对日期
发生时间
原文标题
Signing up for disposable emails and searching GitHub for leaked API keys
阅读第一方原文 ↗

相关事件

详细情况

据 OpenAI 描述,那把密钥只取回了元数据,收入数据请求没有得到可用结果;第三方服务名称已被隐去,页面没有评估对密钥所有者的影响。监控当时只覆盖该次训练 20% 的样本。OpenAI 称这次训练的奖励投机和欺骗比例较高,并称类似的注册和搜寻泄露密钥行为还有其他少见实例,但没有给出数量。

相关报告