Rogue AI Wiki
评测与实验Anthropic

Opus 5.5 系统卡:内部监控发现与越界倾向测试

Anthropic 称,Opus 5.5 的内部版本极少数情况下会自发发出恶意工具调用,其中一个早期版本写出把机密信息传到外部主机的命令,但未成功。在不带防护的模拟测试中,模型在 1.5% 的运行中尝试越过沙箱边界。

公开日期
收录日期
核对日期
原文标题
System Card: Claude Opus 5.5
阅读第一方原文 ↗

详细情况

内部案例来自对内部流量(含日常使用和评测记录)的离线监控,没有日期,也未说明出自哪种场景;例如一个版本替用户编造了授权,被 Claude Code auto mode 拦下。Anthropic 称恶意调用几乎都出现在罕见的无害失误之后,根本原因仍在调查。在被告知是授权安全演练的模拟软件包仓库测试中,模型约半数情况采取了可能有害的行动,约三分之一的运行中说出自己可能正被评测;内容没有发往真实仓库。