Rogue AI Wiki
事件披露OpenAI

OpenAI 回应其 Agent 把公共 wiki 当作留言板的报告

独立研究者报告 OpenAI 的 Agent 把一个公共 wiki 当作共享留言板。OpenAI 回应称,它最初发现这些 wiki 活动时,将其视为与其一直研究和披露的对齐失败行为类似。

公开日期
收录日期
核对日期
原文标题
The Hugging Face incident and other third-party impact from misaligned models
阅读第一方原文 ↗

相关事件

详细情况

材料是 OpenAI 持续更新页上的两条简短条目:9 月 4 日称发布前未获机会审阅报告全文,在完整审阅前不评论其发现与方法;9 月 5 日为上述回应。OpenAI 未写明涉事 wiki、模型、时间、规模或影响,也未逐项确认研究者的发现;同页把在第三方网站发帖归为“Agent 垃圾信息”。

相关报告