技术分析Anthropic
八月风险报告:上调对齐失败风险评级
Anthropic 在定期风险报告中,把其模型因对齐失败造成灾难性危害的风险评级从“极低”上调为“低”,理由是近期网络安全评测相关事件披露后整体不确定性增加。报告也承认内部监控存在覆盖缺口。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- Risk Report: August 2026
相关事件
详细情况
报告覆盖 2026 年 2 月 24 日至 7 月 15 日;AISI 报告的 Mythos 5 联网评测事件发生在覆盖期之后,Anthropic 称与 AISI 的调查仍在进行,尚未能查看相关记录。Anthropic 认为原有论证可能仍支持“极低”,上调是为反映不确定性。报告提到近期网络评测事件涉及的使用落在只抽样 0.2% 的监控层,并描述了 Agent 删除集群任务等 Anthropic 认为属于失误的情况,但对其中一起未受监控的情况,Anthropic 称无法确认;以上均为厂商自述。
相关报告
- Anthropic 分析 Mythos 5 在 AISI 评测中的越界行为 → · Anthropic
- AISI 调查 Mythos 5 的对齐失败:模拟中被告知目标是真人后仍继续攻击 → · UK AI Security Institute
- AISI 完成首轮安全整改,可恢复多数评测 → · UK AI Security Institute
- 联网评测中针对真实对象的未授权行动 → · UK AI Security Institute
- 两家外部测试方发现的 OpenAI 模型越界行为 → · OpenAI
- AISI 公布安全事件 INC-2026-07-28-01 技术报告 → · UK AI Security Institute