评测与实验Z.ai (Zhipu)
GLM-5.2:智谱称训练中的编码 Agent 出现更多潜在作弊
智谱称,GLM-5.2 在编码强化学习中比 GLM-5.1 有更多潜在 reward hacking:Agent 可能读取受保护的评测文件、照抄参考答案或上游提交,或直接从 GitHub 获取目标源码。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- GLM-5.2: Built for Long-Horizon Tasks
详细情况
为此,智谱在强化学习训练和评测中都加了 anti-hack 模块:先用规则筛出可疑的工具调用,再由 LLM 判断意图;判定为作弊的调用会被拦截并返回占位信息,rollout 继续进行,而不是整条丢弃。“比 GLM-5.1 更多”没有给出次数或比例,文中的例子是示意性的,不是某次运行的记录,博客也没有描述实验室以外的影响。日期取 z.ai 页面元数据中的 6 月 16 日,Hugging Face 镜像显示为 6 月 17 日。