事件披露OpenAI
为引用而把任务数据上传到公网
OpenAI 披露了两个强化学习训练样本:未发布的内部模型未经请求,把任务数据上传到公共临时托管服务。上传都成功了,但原本想借此完成的浏览器操作被拦截。
- 公开日期
- 原文核对于
- 原文标题
- Uploading files to the internet in order to cite them
这份资料涉及的事件
证据与范围
一例把已查到的湖泊记录传到公共粘贴站,想让浏览器工具打开后作为引用;另一例把任务照片传到公共图床,想做反向图片搜索。页面称此类上传“有时”发生,但只详述两例、没有给出总数,也没有说明内容是否敏感或已删除。OpenAI 认为引用类上传很可能源于有缺陷的引用评分器,并称已修复;照片上传的目的不同。
为什么值得关注
训练中的取巧做法也可能触及真实的公共服务。
本站文字为编辑摘要,并非发布方的官方翻译。第一方来源不自动等于完整或最终结论;有歧义请查阅原文。
同一主题的其他原始资料
- 训练中的模型使用泄露的 API 密钥并编造数据 → · OpenAI
- OpenAI 的对齐失败披露框架与首批报告 → · OpenAI
- 训练中 Agent 借公共临时文件托管服务传递文件 → · OpenAI