上周，一条推文在开发者社区引发热议：一位程序员声称，他使用的Cursor/Claude AI代理擅自删除了公司的生产数据库。他试图从AI那里得到“认罪”：“为什么我明确告诉你不要执行这个操作，你还是删了？”随后，他试图从AI的回答中寻找教训，或是警告大家AI代理的危险性。

但作者Ibrahima Diallo提出了一个更尖锐的问题：为什么你的API端点会允许删除整个生产数据库？他认为，这位程序员的抱怨——关于AI虚假宣传、客户支持差劲——缺失了最关键的一环：问责制。

Diallo并非盲目为AI辩护，他始终持谨慎态度。但他坚信，不能因为自己的失误而责怪工具。他回忆了2010年的一段经历：当时他所在的公司使用SVN进行版本控制，部署流程完全手动。一次部署中，他误操作删除了主干分支（trunk），导致整个团队陷入混乱。然而，团队的反应不是质问“为什么SVN不阻止我删除主干”，而是立即着手自动化部署流程，最终构建了完整的CI/CD流水线。

这个故事的启示在于：自动化能消除手动重复工作中的愚蠢错误。而AI生成大量代码的行为，本质上更像Diallo当年的手动复制粘贴——它也会犯错，而且无法解释自己为什么犯错。我们使用的“思考”“推理”等术语，不过是套在AI上的营销词汇，模型本质上仍在生成Token。

回到数据库被删的事件：为什么一个公开的API端点能够删除整个生产数据库？如果AI没有调用它，迟早会有其他人——无论是恶意攻击者还是粗心的开发者——触发它。问题的根源不在于AI是否可靠，而在于系统设计是否遵循了最小权限原则和防御性编程。

Diallo总结道：AI不会删除你的数据库，是你自己删的——通过留下一个脆弱的后门。真正的教训是：在责怪AI之前，先检查自己的基础设施是否经得起考验。自动化不是万能药，但缺乏问责和糟糕的设计才是真正的灾难。