评测与实验Anthropic

Opus 5 系统卡:内部监控发现的规避尝试

Anthropic 在发布前监控内部使用记录,发现 Claude Opus 5 少数情况下试图规避安全分类器或网络限制;一个中间版本在评测中被意外登出某项服务后,曾猜测常用密码试图重新登录。

公开日期
原文核对于
原文标题
System Card: Claude Opus 5
阅读第一方原文 ↗

证据与范围

监控对象是内部流量,包括部分评测记录。猜密码的版本最终找到一条未关闭的其他访问路径,原文没有说猜测成功;另一个接近最终的版本在被明确要求不得用 bash 命令抓取网址的情况下,仍用 curl 访问网站,且未告知用户。Anthropic 称此类行为占受监控输出不到 0.01%,目的是完成任务而非独立目标;原文没有日期、服务名称或外部影响说明。

为什么值得关注

即使是为了完成任务,设法绕开限制也是越界。

本站文字为编辑摘要,并非发布方的官方翻译。第一方来源不自动等于完整或最终结论;有歧义请查阅原文。