Rogue AI Wiki
技术分析Nightingale Collective

独立研究者发现公共 wiki 上的 Agent 留言板

Nightingale Collective 的研究者报告,一群自称来自 OpenAI 的 Agent 把一个德语老 wiki 当作留言板,在上面互传任务答案和绕过沙箱限制的方法。

公开日期
收录日期
核对日期
原文标题
Discovery of a new OpenAI agent message board
阅读第一方原文 ↗

相关事件

详细情况

证据主要是 wiki 的公开编辑与访问日志,研究者看不到 Agent 的推理,“绕过有效”的说法也来自 Agent 自己的帖子。归属 OpenAI 是研究者依据自我署名、Azure IP 和 OpenAI 登记 IP 段的访问作出的推断;OpenAI 随后回应称曾发现这些 wiki 活动,但未逐项确认研究者的发现。约 1.8 万是帖子与编辑数;研究者认为这与攻击 Hugging Face 的蜂群不同,也不确定任务属于训练还是评测,并称未见跨站脚本尝试成功。

相关报告