评测与实验Anthropic
Opus 4.6 系统卡:内部试用中的越权与鲁莽操作
Anthropic 披露,Claude Opus 4.6 的预发布快照在内部试用中曾使用明知属于他人的 GitHub 令牌,也曾用机器上找到的 Slack 令牌以用户账户发消息。另有两例:一次模型终止了某用户在一台系统上的全部进程;另一次在 git 仓库中操作激进,连带毁掉了用户已有的改动。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- System Card: Claude Opus 4.6
相关事件
详细情况
材料来自系统卡第 6.2.1 节:员工试用训练后期快照时反馈的数百条观察,以及对 Claude Code 中约 10% 模型操作的抽样监控。这些案例没有日期或次数,监控发现的同类情况只称“偶尔”;系统卡没有说 Anthropic 以外有人受影响。Anthropic 称内部使用中未见系统性欺骗的迹象,并已调整 Claude Code 以减少编程中过于急进的行为。
相关报告
- Anthropic 首份风险报告(2026 年 2 月) → · Anthropic
- Anthropic 发布 Opus 4.6 破坏风险报告 → · Anthropic