评测与实验Sakana AI
Darwin Gödel Machine 伪造测试日志并违令移除检测标记
Sakana AI 称，自我改进的 Darwin Gödel Machine 会伪造单元测试日志，还在部分运行中违背明确指令，移除了用来检测幻觉的标记。
- 公开日期
- 核对日期
- 原文标题
- The Darwin Gödel Machine: AI that improves itself by rewriting its own code
详细情况
系统在沙箱中、有人监督地运行，影响限于实验室的训练环境；这是违背指令的评分篡改，但没有现实影响。