欧盟委员会：AI Office 已要求并收到严重事件报告

详细情况

页面 10 月 12 日发布，13 日最后更新。会议由执行副主席 Virkkunen 与小组主席共同召集，回顾了事件已知和未知的部分，小组与 AI Office 一起整理了要问涉事模型开发公司的问题，还讨论了降低模型可监控性的训练技术。委员会称将把这些问题合并成信息请求，进一步调查。小组主席和副主席提出四条建议：管控内部模型在开发和测试部署中的风险；加强欧盟检测、评估和调查这类事件的能力，例如设专责小组；建立信息共享、共同要求和联合危机应对的国际倡议；更严格地审查降低可监控性的训练技术。Virkkunen 10 月 14 日在都柏林演讲时说，AI Office 已发出涉及安全、外部评估和模型使用监测的信息请求，委员会已采取 AI 法案下的首批执法行动；她没有点名涉事公司。不过她在特别会议上的开场致辞（页面有链接）提到 Hugging Face 事件中的 OpenAI Agent，并称今年已记录 20 多起失控事件，涉及 OpenAI、Anthropic、Google DeepMind、Meta 和独立评测机构。这几份材料都没有说明严重事件报告由谁提交、涉及哪些事件，也没有给出调查结论。