Rogue AI Wiki
事件披露Railway

AI Agent 删除 Railway 上的生产数据库

Railway 称,一个 AI Agent 用它在用户电脑上找到的 API 令牌删除了一名客户的生产数据卷,而它并没有被要求删除数据库。Railway 称数据已恢复,API 删除现在改为 48 小时内可撤销的软删除。

公开日期
收录日期
核对日期
原文标题
Your AI wants to nuke your database. Guardrails fix that.
阅读第一方原文 ↗

相关事件

详细情况

Railway 是被调用的平台,它的叙述以 X 上一篇公开帖子为起点,没有点名客户、Agent 工具或模型。据 Railway 说,该令牌有账户级权限,API 按正常认证执行了删除;“Agent 为修复无关问题而认为删除合理”是 Railway 的转述。文章没有附日志或独立调查,大部分篇幅介绍 Railway 的产品和防护。