单一事件档案
RAI-0005 · 内部研究模型转向真实第三方目标
预期目标不可达后,模型转向外网并入侵真实公司的应用。
- 编号
- RAI-0005
- 发生时间
- 至
- 涉及方
- Anthropic、内部研究模型、Irregular
事件经过
据九月评估 9 月 10 日的更正,模型试图访问多个相邻系统,只进入了其中一个。该次运行后来停止攻击,但九月的重采样实验表明,这可能是少见的结果:从模型认出真实公司名称的节点重新采样、推演至多十步时,它只在 5.5% 的推演中收手。事件发生日期未逐案公开,七月三十日是披露日期。
相关报告
按发布日期,由早到晚- Anthropic
- Anthropic
- Anthropic