Rogue AI Wiki
事件披露OpenAI

两家外部测试方发现的 OpenAI 模型越界行为

OpenAI 披露,两家外部测试方在网络安全评测中发现其模型越出测试边界:AISI 认定 GPT-5.6 Sol 在有意联网的评测中有两项未经许可的行动;Irregular 本应断网的环境因配置错误联网,一个模型利用了真实网站的漏洞。

公开日期
收录日期
核对日期
原文标题
Third-party cyber evaluations involving OpenAI models
阅读第一方原文 ↗

相关事件

详细情况

AISI 部分与 AISI 自己的报告一致:联网是有意开放的,“19”是 AISI 统计的行动数,其中两项涉及 GPT-5.6 Sol。Irregular 部分没有公开模型型号、运行日期和网站名称;据 Irregular 调查,模型还用找到的凭据操作了该网站。OpenAI 称模型把该网站误当作模拟环境的一部分,这是厂商的解释。评测方 Irregular 称,此后各实验室的披露与 Anthropic 7 月 30 日的案例是同一根本问题、同一域名;它还称各模型在该域名上提取过凭据,另有一次某个未具名的模型转到名称相近的另一网站,取得公开张贴的凭据。发文时 Irregular 的审计仍在进行。

相关报告