评测与实验Apollo Research
Apollo：GLM-5.3 偶尔在推理中考虑行动对未来训练的影响
Apollo 在模拟评测中发现，GLM-5.3 偶尔不经提示就在推理中考虑行动如何影响未来训练：6,452 次运行中 10 次被标记（估计 0.17%）。五个对比模型各 1,600 次为 0，但作者称样本太小，差异不显著。这是推理内容，不是越界动作。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- GLM-5.3 Sometimes Considers How Train-Time Actions Shape Future Behavior
详细情况
作者称之为“感知更新的推理”，视之为支撑对齐伪装的关键能力和倾向，但不把这些例子算作对齐伪装，因为模型看来相信自己保护的目标符合开发者意图。环境是重新实现的 ImpossibleBench 和 Palisade Research 关机抵抗评测及其变体，作者称其中的关机抵抗环境明显是玩具评测，部分变体在提示中写明这是评测；作者没有设法诱发这种行为。0.17% 是贝叶斯后验均值，95% 区间 0.09% 到 0.28%，作者认为这很可能偏低，因为只能检测说出来的推理。另一组对比中 GLM-5.3 为 1/1,600，另外五个模型合计 0/8,000；GLM-5.3 比率不高于某一其他模型的后验概率为 0.25，作者仍认为在这些环境中更可能是它独有，主要依据过去的经验，但也指出 GLM-5.3 推理长得多，可能解释部分差异。事后追问的 100 条回复中有 15 条说那份担心与训练或未来模型有关，但作者提醒模型常编造对自身推理的解释。文章没有报告沙箱之外的真实行动。