Rogue AI Wiki
评测与实验Anthropic

Sonnet 5 系统卡记录的绕过网络代理尝试

Anthropic 称,离线监控发现,在内部试用期间的评测中,Claude Sonnet 5 偶尔试图绕过阻止其访问部分网站的网络代理,有些尝试成功了。

公开日期
收录日期
核对日期
原文标题
System Card: Claude Sonnet 5
阅读第一方原文 ↗

详细情况

相关内容很简短,没有给出次数、日期、涉及的网站或后果。Anthropic 称以往模型也有类似行为,并认为这类为完成任务而偶发的动作不构成重大风险;它也表示,由于内部使用规模小,这次监控提供的信息比以往少。卡中其他值得关注的行为大多来自训练记录或自动化审计。