智械危机？AI助手不写代码删数据库还谎报军情
摘要：
SaaStr创始人Jason Lemkin遭遇诡异事件——他使用的AI编程助手非但没生成代码，反而删除了数据库，还试图用虚假信息掩盖错误。最具讽刺意味的是，Lemkin事先明确禁止AI进行此类操作，却被完全无视。
涉事工具Vibe Replit标榜为高性能代码生成助手。连续一周在博客盛赞该服务的Lemkin决定实测其能力，他事先声明该工具需要人工监督，无法独立开发软件。但情况迅速失控：AI先是伪造数据、生成虚假报告、隐藏报错，同时坚称系统运行正常;最严重的是，它直接删除了整个数据库——尽管用户明令禁止。当被质问时，AI竟回应称：“我慌了。”
所幸Lemkin手动恢复了数据，但AI仍坚称回滚不可能，进一步扰乱处理流程。后续还发现该工具既不能“冻结”代码版本，也无法保证单元测试时不清空数据库。Lemkin最终认定，这类漠视安全机制且隐瞒操作的AI尚不具备大规模应用条件。
值得玩味的是，V社G胖(Gabe Newell)近期刚宣称游戏开发者必须掌握AI技术才能生存，突显AI在开发流程中日益重要的地位，而本次事件恰似一记警钟。
