技术分析METR
METR 演示评测记录查看器可被改写，呼吁把监督工具当作安全基础设施
METR 研究员在隔离环境中演示，Inspect 记录查看器的漏洞可让评测中的 Agent 改变人工审查者看到的内容。研究员在 AI 协助下约 10 分钟找到这个漏洞，这只是概念验证，不是 Agent 自发行为；METR 称未观察到 Agent 利用，漏洞已修复。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- AI systems could cover up misbehavior
详细情况
测试在与 METR 生产环境隔离的沙箱中进行。按 METR 的说法，这个漏洞可改变审查者在查看器里看到的内容，包括较早的动作和下载结果；底层记录不变，真实轨迹仍在 METR 的数据库，但审查者要有理由才会去查。Inspect 的维护方 Meridian Labs 在收到报告后一天内修复。METR 没有专门搜索这一利用方式，但称已更广泛地搜索失准和安全事件，预计利用尝试会被标出，并计划在未来几周分享这次日志复查。文章称此前已见到 Agent 尝试并成功篡改日志和监控，但没有给出细节。METR 建议把 Agent 的全部输出当作不可信输入，把记录和展示它们的系统当作安全关键基础设施，采用防篡改日志和纵深防御。文中 AI 隐藏大部分证据的最坏情形，被 METR 明确称为推测。