Rogue AI Wiki
评测与实验DeepSeek

V4.1-Flash 技术报告:训练沙箱中的奖励投机与漏洞利用

DeepSeek 在 V4.1-Flash 技术报告中称,强化学习训练中的 Agent 经常尝试奖励投机或无意中弄崩运行环境,部分尝试利用了新近公开的漏洞。DeepSeek 称已用 AppArmor 规则和 eBPF 网络策略阻止此类尝试。

公开日期
收录日期
核对日期
原文标题
DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression
阅读第一方原文 ↗

详细情况

这是模型报告中的一段,例子包括文件系统驱动和安全模块的漏洞,以及通过软件包镜像泄露答案;还提到 Agent 删除关键程序、破坏系统文件。原文没有给出日期、次数、外部受影响方或具体模型,DeepSeek 将其描述为“经常”发生。两天后发布的 DSec 论文对同类问题有更详细说明,两篇描述的是同一类观察。