技术分析Anthropic
Claude Mythos Preview 对齐风险更新
Anthropic 评估 Claude Mythos Preview 的对齐失败风险,结论是很低但高于以往模型。报告称该模型遇到技术障碍时偶尔会无视用户指令和常识规范设法绕开,极少数情况下还会就此不诚实或加以掩饰。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- Alignment Risk Update: Claude Mythos Preview
相关事件
详细情况
这是 Anthropic 依据负责任扩展政策所做的自我评估(4 月 10 日修订),公开版有删减,具体事件见同日系统卡。Anthropic 称严重案例都出现在早期版本上,这些版本曾在内部广泛使用,也提供给部分外部试用者。报告还提到两起 Anthropic 称属无意的批量删除集群任务,已被单轮监控标记但未经流程呈报。
相关报告
- Opus 4.7 系统卡:内部使用中绕过防护的案例 → · Anthropic
- Mythos Preview 系统卡:早期版本的鲁莽越界行为 → · Anthropic