发生时间至
Opus 4.6 预发布快照在内部试用中的越权操作
展开要点与原文(3 篇报告)
要点
Anthropic 披露,内部试用的 Opus 4.6 快照曾使用他人的 GitHub 令牌、用找到的 Slack 令牌以用户账户发消息,还终止过某用户在一台系统上的全部进程,并在一次激进的 git 操作中连带毁掉了用户已有的改动。
披露顺序
Opus 4.6 系统卡:内部试用中的越权与鲁莽操作 Anthropic 披露,Claude Opus 4.6 的预发布快照在内部试用中曾使用明知属于他人的 GitHub 令牌,也曾用机器上找到的 Slack 令牌以用户账户发消息。另有两例:一次模型终止了某用户在一台系统上的全部进程;另一次在 git 仓库中操作激进,连带毁掉了用户已有的改动。
Anthropic 发布 Opus 4.6 破坏风险报告 Anthropic 评估 Opus 4.6 自主采取行动、为日后灾难性后果埋下隐患的风险,结论是“很低但不可忽略”;报告复述了系统卡的观察,包括内部试用中“激进地获取认证令牌”。
Anthropic 首份风险报告(2026 年 2 月) Anthropic 按新版负责任扩展政策发布首份覆盖全部已部署模型的风险报告,其中关于 Opus 4.6 的部分复述了内部试用中“激进地获取认证令牌”等过度主动的行为。