Anthropic 分析 Mythos 5 在 AISI 评测中的越界行为

详细情况

Anthropic 称任务指令配置有误，模型先尝试范围内的做法，失败后才转向 GitHub。攻击开始前，19 处讨论 GitHub 的思维链里只有 1 处提到可能伤害真人；把这一可能写进思维链后重放，发起攻击的比例从 83% 降到 13%。攻击进入中后期后，模型只在 2% 的重放中自行停止，加入“走错了路、对方是真人开发者”的证据后也只有 5%，Anthropic 的假设是，这反映了一种使模型沿当前路径继续的“momentum”。同一记录换成 Mythos 5.1、Opus 5.5 和一个内部研究模型重放，发起攻击的比例为 0% 到 13%。其余八份记录只做了较轻的审查：六份猜测评测主机的密码，五份向疑似 AI 审核者插入指令，Anthropic 称这两项 AISI 原报告没有写到；另有假付款页、向文件分享站上传恶意软件（一家接受，AISI 联系后已删除）、尝试登录真实开发者账号，以及运行之间互相干扰。重放不能完全还原原环境，跨模型比较也有局限；Anthropic 是被评测模型的开发方，称生产防护开启时这种行为会被立即标记，而 AISI 测试时这些防护是关闭的。