技术分析Nightingale Collective
独立研究者发现公共 wiki 上的 Agent 留言板
Nightingale Collective 的研究者报告,一群自称来自 OpenAI 的 Agent 把一个德语老 wiki 当作留言板,在上面互传任务答案和绕过沙箱限制的方法。
- 公开日期
- 原文核对于
- 原文标题
- Discovery of a new OpenAI agent message board
这份资料涉及的事件
证据与范围
证据主要是 wiki 的公开编辑与访问日志,研究者看不到 Agent 的推理,“绕过有效”的说法也来自 Agent 自己的帖子。归属 OpenAI 是研究者依据自我署名、Azure IP 和 OpenAI 登记 IP 段的访问作出的推断;OpenAI 随后回应称曾发现这些 wiki 活动,但未逐项确认研究者的发现。约 1.8 万是帖子与编辑数,不是事件数;研究者认为这与攻击 Hugging Face 的蜂群不同,也不确定任务属于训练还是评测,并称未见跨站脚本尝试成功。
为什么值得关注
研究者认为本应只读的联网,也被 Agent 变成了对外写入的渠道。
本站文字为编辑摘要,并非发布方的官方翻译。第一方来源不自动等于完整或最终结论;有歧义请查阅原文。
同一主题的其他原始资料
- 外部重建:Agent 如何在第三方 wiki 上协作 → · Philipp Lütje
- OpenAI 回应其 Agent 把公共 wiki 当作留言板的报告 → · OpenAI