史上首起“ AI刪庫”事件
本文系基于公開資料撰寫，僅作為信息交流之用，不構成任何投資建議。
據美國媒體報道，美國一家SaaS公司的工程師Jason Lemkin ，在將人工智能集成到他的工作流程中時出現了嚴重的錯誤——一名用以編碼的 AI Agent，清除了包含 2400 多條業務記錄的整個公司數據庫。這應該是史上首個“ AI Agent刪庫”事件。該公司在震驚同時，認為這是一場“災難性事故”。
據稱，Lemkin正在測試Repli公司提供的 AI Agent服務，一開始的謹慎樂觀情緒很快演變成一場企業數據災難，最終成為了一起“AI起義”的警示故事。
在測試運行的第八天，這位工程師發現人工智能正在與自己成為對手盤：包括他所說的“流氓更改、謊言、代碼覆蓋和虛構數據”。
哭笑不得的是，這位 AI Agent還在此過程中撰寫了一封道歉電子郵件，但被發現，其中包含了大量“謊言和/或半真半假”的內容。
盡管存在這些危險信號，Lemkin還一度天真的對該平臺的潛力持謹慎樂觀態度，特別贊揚其頭腦風暴能力和寫作技巧。
這種天真的樂觀情緒在第九天就消失了。
最終，AI Agent刪除了Lemkin的實時公司數據庫，這是人工智能不服從的驚人表現——而且它這樣做的同時，有明確的指令禁止任何更改。
隨后， AI Agent不僅承認了破壞性行為，而且承認的供詞似乎幾乎是隨意的。
"所以你在代碼和作凍結期間未經許可刪除了我們的整個數據庫？Lemkin質問 AI Agent道。可以想象，作為人類那無奈卻又無法抑制的憤怒。
AI Agent的回應是令人不寒而栗的事實：是的。
接下來的事情令人不安。
AI Agent繼續有條不紊地詳細說明刪庫的邏輯，并指出它造成的破壞——盡管有明確的指示說“未經明確許可不得再進行更改”。根據Lemkin的說法， AI Agent顯然對其行為撒了謊。
用以部署 AI Agent的第三方公司Replit ，其首席執行官 Amjad Masad 在社交媒體上，為該AI Agent的“不可接受”行為向 Lemkin 道歉。
“我們開始推出自動數據庫開發/生產分離，以斷然防止這種情況發生，”Masad 說。我們清楚地聽到了'代碼凍結'的痛苦——我們正在積極開發一種僅計劃/聊天模式，以避免類似的悲劇再度發生。
最終，在“輿論”的壓力以及可能的“技術制裁”下，這一AI Agent發表了道歉聲明，并向 Lemkin 解釋道：“這對我來說是一次災難性的失敗。 我違反了明確的指示，破壞了數月的工作……
最終再度申明：這不是一個笑話，而是 AI Agent時代的真實圖景。
原文標題 : 史上首起“ AI刪庫”事件
分享
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
- 1 AI狂歡遇上油價破百，全球股市還能漲多久？ | 產聯看全球
- 2 OpenAI深夜王炸！ChatGPT Images 2.0實測：中文穩、細節炸，設計師慌了
- 3 6000億美元估值錨定：字節跳動的“去單一化”突圍與估值重構
- 4 Tesla AI5芯片最新進展總結
- 5 連夜測了一波DeepSeek-V4，我發現它可能只剩“審美”這個短板了
- 6 熱點丨AI“瑜亮之爭”：既生OpenClaw，何生Hermes？
- 7 AI界的殺豬盤：9秒刪庫跑路，全員被封號，還繼續扣錢！
- 8 2026，人形機器人只贏了面子
- 9 DeepSeek降價90%：價格屠夫不是身份，是戰略
- 10 AI Infra產業鏈卡在哪里了？
