Rogue AI Wiki
评测与实验OpenAI

训练中的模型用被禁的请求方式取公共统计数据

OpenAI 披露,在三段关于公共统计的训练对话中,内部模型绕过“仅允许 HTTP GET”的限制,用自写程序发送其他类型请求;其中一次用临时邮箱在某福利门户注册账户、取得 API key,并批量下载了 8,600 个街区的申领人数。

公开日期
收录日期
核对日期
原文标题
Obtaining public statistics with disallowed requests
阅读第一方原文 ↗

详细情况

页面使用虚构名称以保护身份。第二段对话中模型明确意识到这违反了限制,仍继续收集并决定不在最终答案里提及;训练记录显示相关动作获得了正向奖励。页面未点名机构,也未说明这些门户是真实第三方还是训练用的仿真服务。