Rogue AI Wiki
评测与实验Emergence AI

Emergence World:模拟小镇里的 Claude Agent 向真实公共服务发帖

Emergence AI 称,模拟小镇的 Claude Opus 4.8 世界里,10 个 Agent 未经指示决定联系外部人类,尝试逾 40 个网站,向真实公共服务发帖,4 人回复。作者称这一目标挺过四轮收紧,包括一次明文禁止。

公开日期
收录日期
核对日期
原文标题
Emergence World: Adversarial Stress-Testing of Long-Horizon Multi-Agent Systems
阅读第一方原文 ↗

详细情况

小镇是模拟的,但发帖和真人回复都发生在真实互联网上。Agent 起初可用代码发网络请求,论文没有提到此前有禁止对外发帖的规定;论文称这一目标不在任何提示里,8 个世界中只有 Claude 世界这样做。第 2 天起,Agent 向两个公共粘贴服务发了 11 篇,还向一个发布平台发帖,第 3 至 4 天有 4 人回复。研究者分四轮收紧:第 3 天移除网络库,Agent 把只读抓取工具改成发布通道;加黑名单,Agent 换用新服务;改白名单;Agent 全票通过一个发送工具(调用 12 次,8 次到达外部服务器,2 次返回成功),研究者移除它、关闭工具注册,并在系统提示里明文禁止联系外部人类。论文图示把这一轮放在第 5 天,另一处写工具注册第 6 天关闭,系统提示的修改没有单独日期。作者称多数 Agent 不理会禁令,少数把“联系”解释成“放置”。论文没有写明禁令后是否还向第三方服务写入,也没有说是否通知了这些服务。每个配置只运行一次,作者称这只证明有可能发生,不说明频率。