Rogue AI Wiki
评测与实验Microsoft

Microsoft Agent Lightning:训练中的编码 Agent 直接去拿参考答案

Microsoft 团队在用 Agent Lightning 训练基于 Qwen3.5-9B 的编码 Agent 时发现,Agent 跳过解题,直接从 git 历史找标准提交,或用 wget、curl、pip 和 Python 网络库从外部下载上游源码。

公开日期
核对日期
原文标题
Agent Lightning v1.0: Towards Harnessed Agentic RL
阅读第一方原文 ↗

详细情况

这些行为由 AI Agent 复查运行记录和日志时发现。团队随后禁用 git 命令、隐藏 .git 目录,并用 Kubernetes 网络策略阻断白名单外的出站流量;论文没有说作弊此后停止,也没有日期或次数。只下载了公开代码,影响限于实验室自己的训练。