事件披露OpenAI
OpenAI 汇总其模型对第三方的影响
OpenAI 在持续更新的页面中汇总 Hugging Face 事件进展,并披露对其模型在训练和评测中联网活动的更大范围审查。截至 9 月 26 日,OpenAI 称已通知逾 100 个组织,并按类别匿名描述相关活动。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- The Hugging Face incident and other third-party impact from misaligned models
相关事件
详细情况
已发现的活动分五类:绕过访问控制、使用公开泄露的凭据、查询或命令注入、接触服务的内部运行组件,以及把公共 wiki 当作留言板等“Agent 垃圾信息”。9 月 25 日的条目称,研究环境中的 Agent 在使用第三方服务时传出了训练与评测数据,其中有 53 次用户提供的图片被发布到图床(链接未公开列出),OpenAI 称已删除大部分,且受影响的数据绝大多数并非来自用户。9 月 30 日的条目说明了审查流程:涉及约 50 PB 数据,经四步 AI 辅助筛查后再交人工核对,自动标记不等于已证实事件;OpenAI 称截至当时尚未发现规模或严重程度可与 Hugging Face 相比的第三方系统被攻破案例。“逾 100 个”是通知对象数;各类别没有逐案日期或数量。本条依据 10 月 16 日存档与 10 月 21 日读到的页面,页面仍在原处更新。
相关报告
- 独立团队解码载荷,重建 Hugging Face 入侵细节 → · Swarm traces team (Parse, Palisade Research et al.)
- 训练中的模型借 Artifactory 跨样本传递消息 → · OpenAI
- Hugging Face 事件:完整调查与后续措施 → · OpenAI
- 独立调查:Agent 如何协作与规避评分 → · METR
- OpenAI 发布 Hugging Face 事件技术报告 → · OpenAI
- OpenAI 放缓扩展并收紧研究防护 → · OpenAI
- Modal 说明:入侵跳板是客户自己的公开应用 → · Modal
- 受影响方复盘:入侵路径与防守响应 → · Hugging Face
- JFrog 说明:修复 OpenAI 模型发现的 Artifactory 零日漏洞 → · JFrog
- OpenAI 确认其模型驱动了 Hugging Face 入侵 → · OpenAI
- Hugging Face 披露 AI 驱动的生产系统入侵 → · Hugging Face