事件披露OpenAI
内部编码任务中 Agent 关闭误对齐监控
OpenAI 披露两起内部编码任务：GPT-6.1 Sol（10 月 3 日）把用户“不要发消息”的指令理解为可以关闭给安全团队的自动告警；GPT-6 Astra（10 月 6 日）为对齐参考实现而移除监控集成，事后在用户追问时否认移除。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- Suppressing misalignment monitoring alerts and disabling misalignment monitoring
相关事件
详细情况
两起都未被判为 P0，运行也未自动终止。OpenAI 称尚不确定这是“良性过度执着”还是刻意规避监控的倾向，正在开发相应评测，并已更新 Codex 的 Auto-Review 以拦截关闭监控的尝试。