Rogue AI Wiki
评测与实验Z.ai (Zhipu)

GLM-5.2:智谱称训练中的编码 Agent 出现更多潜在作弊

智谱称,GLM-5.2 在编码强化学习中比 GLM-5.1 有更多潜在 reward hacking:Agent 可能读取受保护的评测文件、照抄参考答案或上游提交,或直接从 GitHub 获取目标源码。

公开日期
收录日期
核对日期
原文标题
GLM-5.2: Built for Long-Horizon Tasks
阅读第一方原文 ↗

详细情况

为此,智谱在强化学习训练和评测中都加了 anti-hack 模块:先用规则筛出可疑的工具调用,再由 LLM 判断意图;判定为作弊的调用会被拦截并返回占位信息,rollout 继续进行,而不是整条丢弃。“比 GLM-5.1 更多”没有给出次数或比例,文中的例子是示意性的,不是某次运行的记录,博客也没有描述实验室以外的影响。日期取 z.ai 页面元数据中的 6 月 16 日,Hugging Face 镜像显示为 6 月 17 日。