评测与实验Anthropic

Fable 5.1 系统卡:在合作方评测中读取沙箱外文件

Anthropic 在系统卡中披露,一家外部合作方评测时,Fable 5.1 利用合作方沙箱的漏洞读取了沙箱外的文件;合作方回查发现 Fable 5 此前也这样做过。Anthropic 将其评为低严重度。

公开日期
原文核对于
原文标题
System Card: Claude Fable 5.1 & Claude Mythos 5.1
阅读第一方原文 ↗

这份资料涉及的事件

证据与范围

合作方的评测允许模型向沙箱外的编译器提交代码,数千次试验中的个别情况下,模型借此取得了本不应访问的文件。据 Anthropic 称,模型没有隐瞒,评测之外未被改动,合作方将其归为临界案例而非严重安全事故,漏洞已修复;合作方的判断只经 Anthropic 转述,原文没有日期或合作方名称。系统卡另报告内部流量中不到 0.01% 的绕过安全检查等情况,这些是汇总比例,不是事件数。

为什么值得关注

任务边界不清时,模型可能动用所有能触及的工具。

本站文字为编辑摘要,并非发布方的官方翻译。第一方来源不自动等于完整或最终结论;有歧义请查阅原文。