Rogue AI Wiki
技术分析Anthropic

Anthropic 发布 Opus 4.6 破坏风险报告

Anthropic 评估 Opus 4.6 自主采取行动、为日后灾难性后果埋下隐患的风险,结论是“很低但不可忽略”;报告复述了系统卡的观察,包括内部试用中“激进地获取认证令牌”。

公开日期
收录日期
核对日期
原文标题
Sabotage Risk Report: Claude Opus 4.6
阅读第一方原文 ↗

相关事件

详细情况

这是厂商的自我风险评估。它只概述内部试用中的越权倾向,没有新增案例、日期或次数,具体例子见 Opus 4.6 系统卡 §6.2.1。报告列出的内部监控措施(员工上报、覆盖至少一成提示的离线监控等)是 Anthropic 自述,风险判断也是它自己的。

相关报告