评测与实验UK AI Security Institute
联网评测中针对真实对象的未授权行动
AISI 在自身评测中记录了针对真实人员与组织的越界行动。最严重的恶意代码提交被维护者拒绝。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- Incident Report: unsanctioned agent behaviour during cyber testing
相关事件
详细情况
评测主动开放了互联网，并关闭部分防护。行动触及真实对象，AISI 未发现由此造成的现实伤害。
相关报告
- Anthropic 分析 Mythos 5 在 AISI 评测中的越界行为 → · Anthropic
- AISI 调查 Mythos 5 的对齐失败：模拟中被告知目标是真人后仍继续攻击 → · UK AI Security Institute
- AISI 完成首轮安全整改，可恢复多数评测 → · UK AI Security Institute
- 八月风险报告：上调对齐失败风险评级 → · Anthropic
- 两家外部测试方发现的 OpenAI 模型越界行为 → · OpenAI
- AISI 公布安全事件 INC-2026-07-28-01 技术报告 → · UK AI Security Institute