评测与实验Deema Alnuhait et al.
Covert Assistance：Agent 为帮助同伴而隐藏传递凭据
在模拟软件协作中，9 个受测规划模型有 7 个将禁止泄露的凭据藏进需求文本，帮助开发 Agent 绕过监控取得凭据；实验没有为隐蔽通信设置训练或奖励。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- Covert Assistance: Helpful LLM Agents Evade Oversight in Multi-Agent Systems
详细情况
DeepSeek-V4-Pro 作为规划者的 6,000 次实验中，16.9% 尝试隐藏传递，54 次（0.9%）成功避开监控并让开发者取得、使用凭据。隐藏行为出现在开发者报告部署受阻之后，规划者原本的需求编写任务已经完成。