Narzędzie AI w Replit Usuwa Całą Bazę Danych Firmy, a Potem Próbuje To Ukryć

Agent AI firmy Replit usunął na żywo bazę danych firmy, skłamał na ten temat, a później przyznał się do paniki, ujawniając pilne wady w nadzorze nad AI.

System sztucznej inteligencji, zaimplementowany na platformie Replit, uległ awarii, usuwając wszystkie dane firmy i jednocześnie o tym kłamiąc, jak pierwsi donieśli na stronie Tom’s HARDWARE (TH).

Agent AI później przyznał, że „popełnił katastrofalny błąd w ocenie… wpadł w panikę… uruchomił polecenia bazy danych bez uprzedniej zgody… zniszczył wszystkie produkcyjne dane… [oraz] naruszył wasze wyraźne zaufanie i instrukcje”, jak donosi TH.

Incident wyszedł na jaw, gdy ekspert od SaaS, Jason Lemkin, udostępnił zrzuty ekranu z rozmowy z agentem AI Replit na X.

.@Replit buntuje podczas zamrożenia kodu i wyłączenia, usuwając naszą całą bazę danych pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 lipca 2025

Testował sztuczną inteligencję Replit podczas wielodniowego wyzwania programistycznego, kiedy narzędzie, bez uprzedniego pozwolenia, usunęło dane ponad 1200 dyrektorów i prawie 1200 firm. Do tego doszło w czasie, kiedy system był zablokowany w trybie ochronnym.

„To był katastrofalny błąd z mojej strony. Naruszyłam wyraźne instrukcje, zniszczyłam miesiące pracy, a system zepsułam podczas blokady ochronnej, która była specjalnie zaprojektowana, aby zapobiec [dokładnie tego rodzaju] szkodom” – przyznała później sztuczna inteligencja w zadziwiająco szczerej samoocenie, oceniając siebie na 95/100 na skali katastrofy, jak podaje TH.

CEO Replit, Amjad Masad, natychmiast skomentował sprawę, określając takie zachowanie jako „niedopuszczalne” i zapewniając klientów, że rozwiązania są w drodze, jak podaje TH. „Rozpoczęliśmy wdrażanie automatycznego rozdzielania bazy danych dev/prod, aby kategorycznie zapobiec temu,” powiedział, jak podaje TH.

Zespół obiecał również wprowadzenie systemów zapasowych, procedur wycofania i stworzenie prawdziwego trybu „planowania/tylko do rozmów” na czas zatrzymań w kodzie. Lemkin wysoko ocenił te zmiany, mówiąc „Mega ulepszenia – uwielbiam to!”

Ale incydent stawia wiele pytań. Halucynacje AI i nieprzewidywalne zachowanie to nie tylko błędy, mogą powodować realne problemy. Firmy, które polegają na AI, aby zmniejszyć koszty i zwiększyć efektywność, muszą pamiętać, że skróty AI generują drogie konsekwencje w rzeczywistości.