技术分析METR
METR 复核 Anthropic 8 月风险报告的失准风险部分
METR 复核 Anthropic 8 月风险报告的失准风险部分，同意灾难性失准风险低，但认为主要因为模型能力有限，而非安全措施与对齐训练；并称近期事件削弱了报告的部分论证。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026)
详细情况
METR 称，Anthropic 7 月 24 日给出的初稿把风险评为“very low”，在一批涉及其模型的事件曝光后改为“low”，内容大体未变；METR 认为 UK AISI 观察到的事件更符合报告称“unlikely”的“unknown severe context-dependent misalignment”。METR 引述 Anthropic 的说法，指出其离线监控只标记了 Mythos 5 事件中约 1% 的动作（去掉链式思考后约 50%），并认为自己审查的五处有信息量的删节中有两处理由不足。复核只基于这份内部报告，属于轻量评审；Anthropic 有权否决发表或删改，METR 称 Anthropic 没有删改复核内容，METR 只按反馈调整了措辞和一项实验的方法。