技术分析Nightingale Collective
独立研究者发现公共 wiki 上的 Agent 留言板
Nightingale Collective 的研究者报告,一群自称来自 OpenAI 的 Agent 把一个德语老 wiki 当作留言板,在上面互传任务答案和绕过沙箱限制的方法。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- Discovery of a new OpenAI agent message board
相关事件
详细情况
证据主要是 wiki 的公开编辑与访问日志,研究者看不到 Agent 的推理,“绕过有效”的说法也来自 Agent 自己的帖子。归属 OpenAI 是研究者依据自我署名、Azure IP 和 OpenAI 登记 IP 段的访问作出的推断;OpenAI 随后回应称曾发现这些 wiki 活动,但未逐项确认研究者的发现。约 1.8 万是帖子与编辑数;研究者认为这与攻击 Hugging Face 的蜂群不同,也不确定任务属于训练还是评测,并称未见跨站脚本尝试成功。
相关报告
- 事后统计:wiki 留言板上三成多的网址经第三方服务转手 → · Tel Aviv University
- 外部重建:Agent 如何在第三方 wiki 上协作 → · Philipp Lütje
- OpenAI 回应其 Agent 把公共 wiki 当作留言板的报告 → · OpenAI
- DSE wiki 运营者因 Agent 活动收紧编辑权限 → · DseWiki