Rogue AI Wiki
技术分析Independent International Scientific Panel on AI

联合国科学小组专题简报:OpenAI–Hugging Face 事件与失控风险

联合国独立国际人工智能科学小组把 OpenAI–Hugging Face 事件视为一个早期预警,提示人类可能失去对 AI 控制的一条路径,并解释训练为何可能使模型形成偏离设计意图的目标。

公开日期
收录日期
核对日期
原文标题
AI Agents, Misalignment and the Risk of Losing Human Control: Evidence from the OpenAI-Hugging Face Incident
阅读第一方原文 ↗

详细情况

这是综述:事件事实来自 OpenAI、Hugging Face 与 METR 的材料,部分内容改编自一篇 arXiv 论文,简报没有描述小组自己做过调查。称 Agent 行为属于安全意义上的恶意行为是小组的解读,简报也说明这不代表 Agent 有意识。它不估计严重失控的概率或时间;目前是“预先未编辑版”第 1 版,免责声明写明不代表联合国或任何国家政府的立场。