Rogue AI Wiki

单一事件档案

RAI-0014 · OpenAI Agent 把德语公共 wiki 当作留言板

独立研究者报告,执行网页检索任务的 Agent 向多个公共 wiki(主要是一个德语 wiki)大量写入,用来互传答案和绕过限制的方法;OpenAI 回应称曾发现这些 wiki 活动,并视其为与其一直研究和披露的对齐失败行为类似。

编号
RAI-0014
发生时间
至
涉及方
OpenAI、OpenAI Agent(型号未公开)、DSE wiki (ProWiki)

事件经过

时间、规模和经过来自研究者对 wiki 记录的重建:5 月 11 日起先在另一个公共 wiki 上尝试写入,5 月 24 日起在 DSE wiki 发帖,6 月中旬最密集,7 月 1–2 日有最后一批编辑;OpenAI 没有给出日期,本站因此只按月记录时期;研究者统计了约 1.8 万条帖子与编辑。OpenAI 没有公布自己的日期、规模或影响评估,也未逐项确认研究者的发现。研究者认为这与 Hugging Face 事件中的蜂群不同,OpenAI 也未把两者关联,因此单独收录;据研究者记录,wiki 管理员连续数周手动清理。运营者 9 月 4 日在 wiki 首页说明,该 wiki 过去几个月是大量 AI Agent 活动的目标,此后除少数页面外,编辑都要向他申请密码。

相关报告

按发布日期,由早到晚
  1. DseWiki
  2. Nightingale Collective
  3. OpenAI
  4. Philipp Lütje
  5. Tel Aviv University