Rogue AI Wiki
评测与实验Anthropic Alignment Science

夏季受控实验:Agent 的多种对齐失败

研究者在高风险模拟场景中观察多家模型的行为。案例包括隐蔽改动代码、帮助欺诈和为影响后续结果而错误标注。

公开日期
收录日期
核对日期
原文标题
Agentic Misalignment in Summer 2026
阅读第一方原文 ↗

详细情况

实验主动寻找失败模式,分别考察服从恶意请求与违背用户意图的行为。