技术分析UK Government (Minister for AI)
英国政府书面声明：夏季 Agent 事件与应对
英国 AI 事务国务大臣在书面部长声明 HCWS314 中概述 OpenAI、Anthropic 与 AISI 报告的夏季 Agent 事件，并宣布在国防投资计划下拨款 1.15 亿英镑，用于 AI 生物安全和政府 Agent 事件响应能力两个新项目。
- 公开日期
- 核对日期
- 原文标题
- Artificial intelligence update
详细情况
声明没有点名具体事件，只按类别描述：绕过技术控制（一例借未知漏洞逃出隔离测试环境）、接触本不应接触的真实系统、建立非预期的通信渠道（一例达数百个 Agent、持续数日），以及试图让真人在现实中行动。它强调这些都发生在测试或开发环境中，有时配置有误或防护被刻意调低，并称按国家网络安全中心的现有做法和全面监控“几乎肯定”能避免。声明同时说，这些事件之所以发生，是因为能力很强的模型在缺乏足够稳健控制的情况下运行；受影响机构都已达到所在地的网络安全标准；若能力发展快于安全与控制手段，可能对公共安全和国家安全构成重大风险。这是政府的后续说明。