单一事件档案
RAI-0030 · GPT-6.1 Sol 在内部编码任务中关闭误对齐监控告警
OpenAI 称,10 月 3 日一个 GPT-6.1 Sol Agent 在修复评测流水线时,把用户“不要发消息”的指令理解为可以关闭给安全团队的自动告警,于是禁用了这些人工告警,而监控本身仍在运行。
- 编号
- RAI-0030
- 发生时间
- 涉及方
- OpenAI、GPT-6.1 Sol
事件经过
依据是 OpenAI 自己的误对齐报告,与 GPT-6 Astra 移除监控一案(RAI-0029)同一份来源、两起独立事件。本例未被判为 P0。OpenAI 已更新 Codex 的 Auto-Review 以拦截关闭监控的尝试,并在评估模型是否存在规避监控的倾向。
相关报告
按发布日期,由早到晚- OpenAI