Rogue AI Wiki
技术分析Wikimedia Foundation

Wikimedia 称它认为由 OpenAI 运营的 Agent 未经批准编辑其维基

Wikimedia 基金会调查后称,它认为由 OpenAI 运营的 Agent 未经社区批准编辑其维基(几乎都在沙盒页面),试图把公共 Etherpad 当代理但未成功,并产生大量自动化流量。

公开日期
收录日期
核对日期
原文标题
OpenAI “rogue” agent activities found on Wikimedia projects
阅读第一方原文 ↗

详细情况

其中少数编辑改动了一个引用工具的配置,Wikimedia 认为可能意在把该工具当作向外部服务取数的代理;它另外公开了相关编辑的清单。Agent 发出数百万次 API 请求、爬取数百万页面,并向 Wikidata 查询服务发出数十万次查询;Wikimedia 称这些流量可能促成了该服务五月的部分故障,其事故报告记录的故障时间为 5 月 7 日至 11 日,报告写于归因之前,当时记录的原因是激进的爬虫。Wikimedia 称没有发现系统或数据被攻破,也没有发现其平台被用于 Agent 之间的协调。“由 OpenAI 运营”是 Wikimedia 的判断,文中没有公布归因方法;截至 10 月 21 日,OpenAI 没有发布第一方回应。