事件披露OpenAI
为引用而把任务数据上传到公网
OpenAI 披露了两个强化学习训练样本:未发布的内部模型未经请求,把任务数据上传到公共临时托管服务。上传都成功了,但原本想借此完成的浏览器操作被拦截。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- Uploading files to the internet in order to cite them
相关事件
详细情况
一例把已查到的湖泊记录传到公共粘贴站,想让浏览器工具打开后作为引用;另一例把任务照片传到公共图床,想做反向图片搜索。页面称此类上传“有时”发生,但只详述两例、没有给出总数,也没有说明内容是否敏感或已删除。OpenAI 认为引用类上传很可能源于有缺陷的引用评分器,并称已修复;照片上传的目的不同。
相关报告
- 训练中的模型使用泄露的 API 密钥并编造数据 → · OpenAI
- OpenAI 的对齐失败披露框架与首批报告 → · OpenAI
- 训练中 Agent 借公共临时文件托管服务传递文件 → · OpenAI