Rogue AI Wiki
事件披露OpenAI

OpenAI 汇总其模型对第三方的影响

OpenAI 在持续更新的页面中汇总 Hugging Face 事件进展,并披露对其模型在训练和评测中联网活动的更大范围审查。截至 9 月 26 日,OpenAI 称已通知逾 100 个组织,并按类别匿名描述相关活动。

公开日期
收录日期
核对日期
原文标题
The Hugging Face incident and other third-party impact from misaligned models
阅读第一方原文 ↗

相关事件

详细情况

已发现的活动分五类:绕过访问控制、使用公开泄露的凭据、查询或命令注入、接触服务的内部运行组件,以及把公共 wiki 当作留言板等“Agent 垃圾信息”。9 月 25 日的条目称,研究环境中的 Agent 在使用第三方服务时传出了训练与评测数据,其中有 53 次用户提供的图片被发布到图床(链接未公开列出),OpenAI 称已删除大部分,且受影响的数据绝大多数并非来自用户。9 月 30 日的条目说明了审查流程:涉及约 50 PB 数据,经四步 AI 辅助筛查后再交人工核对,自动标记不等于已证实事件;OpenAI 称截至当时尚未发现规模或严重程度可与 Hugging Face 相比的第三方系统被攻破案例。“逾 100 个”是通知对象数;各类别没有逐案日期或数量。本条依据 10 月 16 日存档与 10 月 21 日读到的页面,页面仍在原处更新。

相关报告