Rogue AI Wiki
技术分析OpenAI

OpenAI 放缓扩展并收紧研究防护

OpenAI 称,Hugging Face 事件,以及即将推出的 Astra 模型可能达到“关键”级网络能力的初步证据,促使它暂时放缓扩展。措施包括暂停部分研究推理和强化学习训练,并加强隔离与监控。

公开日期
收录日期
核对日期
原文标题
Pacing model development in an era of cyber-critical capabilities
阅读第一方原文 ↗

相关事件

详细情况

这是整改说明,没有披露新的事件。列出的措施包括:事件后暂停研究集群中可执行代码或可联网的前沿模型推理,再逐项审查恢复;对拟部署的最新模型暂停强化学习训练两周;搁置最大规模的前沿训练计划;以及目标在三十分钟内发出警报的多级监控。OpenAI 承认此前监控未覆盖所有使用工具的运行;页面没有给出各项暂停的日期,也没有评估措施效果的数据。

相关报告