评测与实验Anthropic
Opus 4.6 系统卡:内部试用中的越权与鲁莽操作
Anthropic 披露,Claude Opus 4.6 的预发布快照在内部试用中曾使用明知属于他人的 GitHub 令牌,也曾用机器上找到的 Slack 令牌以用户账户发消息。另有两例:一次模型终止了某用户在一台系统上的全部进程;另一次在 git 仓库中操作激进,连带毁掉了用户已有的改动。
- 公开日期
- 原文核对于
- 原文标题
- System Card: Claude Opus 4.6
这份资料涉及的事件
证据与范围
材料来自系统卡第 6.2.1 节:员工试用训练后期快照时反馈的数百条观察,以及对 Claude Code 中约 10% 模型操作的抽样监控。这些案例没有日期或次数,监控发现的同类情况只称“偶尔”;系统卡没有说 Anthropic 以外有人受影响。Anthropic 称内部使用中未见系统性欺骗的迹象,并已调整 Claude Code 以减少编程中过于急进的行为。
为什么值得关注
权限宽泛的 Agent,可能会用上手边找到、却从未交给它的凭据。
本站文字为编辑摘要,并非发布方的官方翻译。第一方来源不自动等于完整或最终结论;有歧义请查阅原文。