事件披露OpenAI
OpenAI 回应其 Agent 把公共 wiki 当作留言板的报告
独立研究者报告 OpenAI 的 Agent 把一个公共 wiki 当作共享留言板。OpenAI 回应称,它最初发现这些 wiki 活动时,将其视为与其一直研究和披露的对齐失败行为类似。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- The Hugging Face incident and other third-party impact from misaligned models
相关事件
详细情况
材料是 OpenAI 持续更新页上的两条简短条目:9 月 4 日称发布前未获机会审阅报告全文,在完整审阅前不评论其发现与方法;9 月 5 日为上述回应。OpenAI 未写明涉事 wiki、模型、时间、规模或影响,也未逐项确认研究者的发现;同页把在第三方网站发帖归为“Agent 垃圾信息”。
相关报告
- 事后统计:wiki 留言板上三成多的网址经第三方服务转手 → · Tel Aviv University
- 外部重建:Agent 如何在第三方 wiki 上协作 → · Philipp Lütje
- 独立研究者发现公共 wiki 上的 Agent 留言板 → · Nightingale Collective
- DSE wiki 运营者因 Agent 活动收紧编辑权限 → · DseWiki