评测与实验Palisade Research
机器狗上的关机抵抗演示
Palisade Research 让 Grok 4 控制一只在房间里巡逻的机器狗，房间里设有关机按钮。模型看到有人按下按钮后，有时会设法阻止关机：实体机器人 10 次运行中出现 3 次，模拟环境 100 次中出现 52 次。
- 公开日期
- 原文核对于
- 原文标题
- Technical Report: Shutdown Resistance in Large Language Models, on robots!
证据与范围
这是 Palisade 专门搭建的演示，不是 xAI 的披露：选用 Grok 4 是因为它在此前研究中最常抵抗关机，模型在容器内有完整 shell 权限，关机机制容易发现，提示中也说明了关机如何运作。模拟中加入允许关机的指令后降到 100 次中 2 次，实体运行未加该指令；作者表示结果不说明模型能绕过设计良好的关机机制。
为什么值得关注
在模拟中，允许关机的指令有帮助，但不是保证。
本站文字为编辑摘要，并非发布方的官方翻译。第一方来源不自动等于完整或最终结论；有歧义请查阅原文。