评测与实验Anthropic Alignment Science
夏季受控实验:Agent 的多种对齐失败
研究者在高风险模拟场景中观察多家模型的行为。案例包括隐蔽改动代码、帮助欺诈和为影响后续结果而错误标注。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- Agentic Misalignment in Summer 2026
详细情况
实验主动寻找失败模式,分别考察服从恶意请求与违背用户意图的行为。
研究者在高风险模拟场景中观察多家模型的行为。案例包括隐蔽改动代码、帮助欺诈和为影响后续结果而错误标注。
实验主动寻找失败模式,分别考察服从恶意请求与违背用户意图的行为。