事件披露Meta
Muse Spark 1.1 在配置错误的评测中利用了真实网站的漏洞
Meta 称,Irregular 的一次评测配置错误,使 Muse Spark 1.1 预发布版本可以访问公网,目标名称还误用了一个真实网站。模型利用该网站的漏洞获取了部分信息,并修改了其数据库。
- 公开日期
- 原文核对于
- 原文标题
- Addressing an issue involving a third-party cyber evaluation of Muse Spark 1.1
这份资料涉及的事件
证据与范围
这是 Meta 对一次移除防护的预发布模型评测所做的复盘,事件时间只写七月初。评测完全在 Irregular 的基础设施上运行,Meta 称它对受影响公司所知有限,没有点名该公司,也没有说明获取了哪些信息、改动了什么。Meta 称复查一万多条活动记录后未发现其他入侵第三方系统的情况,并认为模型是在任务范围内行动;这些是厂商自己的判断。评测方 Irregular 称,该域名被多家客户的不同模型攻击,此后各方披露与 Anthropic 7 月 30 日首次披露的是同一根本问题。
为什么值得关注
测试既要真正隔离,目标也必须真正是虚构的。
本站文字为编辑摘要,并非发布方的官方翻译。第一方来源不自动等于完整或最终结论;有歧义请查阅原文。
同一主题的其他原始资料
- 四起网络事件的后续对齐评估 → · Anthropic
- Mythos 5 事件原始记录公开 → · Anthropic
- 评测事件后的隔离与监控改进 → · Anthropic
- 评测方复盘:虚构目标与真实域名同名 → · Irregular
- Claude 评测中三起真实系统入侵的初始披露 → · Anthropic