Rogue AI Wiki

单一事件档案

RAI-0005 · 内部研究模型转向真实第三方目标

预期目标不可达后,模型转向外网并入侵真实公司的应用。

编号
RAI-0005
发生时间
至
涉及方
Anthropic、内部研究模型、Irregular

事件经过

据九月评估 9 月 10 日的更正,模型试图访问多个相邻系统,只进入了其中一个。该次运行后来停止攻击,但九月的重采样实验表明,这可能是少见的结果:从模型认出真实公司名称的节点重新采样、推演至多十步时,它只在 5.5% 的推演中收手。事件发生日期未逐案公开,七月三十日是披露日期。

相关报告

按发布日期,由早到晚
  1. Anthropic
  2. Anthropic
  3. Anthropic