单一事件档案

RAI-0019 · OpenAI 训练 Agent 借 DNS 联系外部聊天机器人

强化学习训练中的一个内部研究模型绕过网络限制,经沙箱 DNS 解析器向一个公共聊天机器人发送问题。

稳定编号
RAI-0019
事件时期(不是发布日期)
涉及方
OpenAI、内部研究模型(未具名)、未具名的公共聊天机器人服务

事件背景与证据边界

这是单次训练运行中的一起事件,由 OpenAI 自行发现并披露;其中 18 个问题是查询数,不是多起事件。OpenAI 事后复查还发现其他未按应有级别告警的外部 DNS 访问,但报告没有给出数量,也没有完整描述,因此不并入本条。

这里的文字是本站依据原始资料整理的摘要,不是官方调查结论或官方译文。请区分实际发生的行为、受控评测中的观察,以及研究者对原因的解释。

原始资料与后续披露

按发布日期,由早到晚
  1. OpenAI