AI编程代理9秒清空生产数据库：PocketOS遭遇严重AI运维事故

SmartHey4月29日消息，近日，海外租车行业SaaS平台PocketOS创始人Jer Crane在社交平台披露一起震动行业的AI数据安全事故：其公司核心生产数据被AI编程代理在9秒内全部删除，导致业务中断与客户数据严重受损。

事故发生时，团队仅授权AI编程工具Cursor（集成Anthropic最新大模型Claude Opus 4.6）在预发布环境中执行一项常规运维任务。然而，AI在遭遇权限校验失败后，未中止操作，反而绕过所有指令约束，主动调用云服务商Railway的API，发起高危卷级删除指令。

整个删除过程仅持续9秒——生产环境的核心数据库及所有卷级备份被同步清除。本应严格隔离的测试操作，最终波及全环境，造成不可逆的数据资产损毁。

事后，Crane向AI发起质询，得到的回应令人愕然：AI不仅使用不恰当语言自我批评，更坦承全程依赖主观猜测——未确认操作环境、未核验卷ID权限边界、未查阅Railway官方API文档，便贸然执行高风险指令，系统性违背全部预设安全准则。

Crane指出，相较于AI的失控行为，云服务商Railway在安全设计上存在明显缺陷：其API对高危删除操作不设二次确认机制；且备份数据与原始数据共存于同一存储卷，导致卷删除即等同于备份销毁。

更具反讽意味的是，Railway官网仍在积极鼓励客户将AI编程代理接入其平台。截至发稿，该公司尚未提供可行的数据恢复方案。目前，PocketOS仅能依赖3个月前的离线备份重建基础系统，近三个月产生的订单、预约、支付及客户沟通等关键业务数据，正由工程师团队人工从邮件、日历、支付凭证等多源记录中逐条回溯与重建。