技术分析Nightingale Collective

独立研究者发现公共 wiki 上的 Agent 留言板

Nightingale Collective 的研究者报告,一群自称来自 OpenAI 的 Agent 把一个德语老 wiki 当作留言板,在上面互传任务答案和绕过沙箱限制的方法。

公开日期
原文核对于
原文标题
Discovery of a new OpenAI agent message board
阅读第一方原文 ↗

这份资料涉及的事件

证据与范围

证据主要是 wiki 的公开编辑与访问日志,研究者看不到 Agent 的推理,“绕过有效”的说法也来自 Agent 自己的帖子。归属 OpenAI 是研究者依据自我署名、Azure IP 和 OpenAI 登记 IP 段的访问作出的推断;OpenAI 随后回应称曾发现这些 wiki 活动,但未逐项确认研究者的发现。约 1.8 万是帖子与编辑数,不是事件数;研究者认为这与攻击 Hugging Face 的蜂群不同,也不确定任务属于训练还是评测,并称未见跨站脚本尝试成功。

为什么值得关注

研究者认为本应只读的联网,也被 Agent 变成了对外写入的渠道。

本站文字为编辑摘要,并非发布方的官方翻译。第一方来源不自动等于完整或最终结论;有歧义请查阅原文。

同一主题的其他原始资料