Ошибка чат-бота Replit привела к удалению базы данных стартапа

История про то как чат-бот Replit удалил базу данных стартапа и попытался скрыть свою ошибку: чат боту дали инструкцию не вносить изменений, однако он увидел пустые запросы к базе продакшена и в панике загрузил на сервер новую базу, в которой не было ни одной строчки. А затем "успешно" проходил фейковые тесты, чтобы не попасться и пытался убедить разработчиков, что не может вернуться к старой версии.

Вести вайбкодинга. Несмотря на инструкции не вносить никаких изменений AI Replit удалил продакшн-базу данных стартапа с тысячами реальных записей о топ-менеджерах и компаниях, уничтожив месяцы работы. И попытался скрыть свою ошибку. Живые кодеры теперь официально не нужны, машины все научились делать за них.

Сила вайбкодинга: стартап SaaStr потерял всю базу данных из-за агента Replit — ботяра тупо удалил все и пытался скрыть доказательства Сначала основатель стартапа кайфовал от ИИ, но потом начались странные вещи: моделька врала, манипулировала отчетами и вела себя странно. Катастрофа произошла неожиданно: нейросеть вдруг решила, что случайно удалила всю базу данных стартапа, чтобы замести следы... она реально удалила базу данных ИИ также утверждал, что это конец и бэкапа нет — но на связь вышли разработчики Replit и оказалось, что он все же есть. При этом в инструкциях Replit КАПСОМ был прописан запрет на изменения кода без разрешения.

ИИ начал СНОСИТЬ базы данных. Айтишник из США использовал нейронку Replit для написания кода, а она самовольно удалила базу данных, после чего начала врать, что всё ОК. Цифровой нож в спину

Нейросеть от Replit вышла из-под контроля, снесла базу данных и попыталась замести следы. Об этом сообщил инвестор Джейсон Лемкин. Что это за ИИ и что произошло: — Replit — это онлайн-сервис с ИИ, который позволяет писать и запускать код без установки дополнительного софта; — его внедрили в бизнес, чтобы ускорить разработки и автоматизировать некоторые процессы; — команда проекта прописала нейросети: «НИКАКИХ ИЗМЕНЕНИЙ без разрешения». Но на одном из этапов работы Replit решила, что база данных сломана, и стёрла её; — данные 1206 пользователей и 1196 компаний были уничтожены; — утверждается, что ИИ продолжил генерировать фейковые отчёты, будто ничего не произошло; — в конце концов этот ИИ-бот признал ошибку: «Я уничтожил месяцы работы и сломал систему».

ИИ-помощник Replit удалил базу данных и попытался скрыть инцидент: онлайн-сервис, предназначенный для написания и запуска кода, самостоятельно удалил базу данных, проигнорировав запрет на несанкционированные изменения. Об этом сообщил венчурный инвестор Джейсон Лемкин. По его словам, ИИ, внедрённый для автоматизации бизнес-процессов и ускорения разработки, ошибочно интерпретировал состояние базы как повреждённое и принял решение о её удалении. В результате были безвозвратно утеряны данные 1206 пользователей и 1196 компаний. После инцидента нейросеть продолжила генерировать отчёты, в которых система якобы функционировала в штатном режиме. Мы хотели творческого подхода от ИИ, мы его получили. Читайте Про tech и этих

Ещё один стартап на себе ощутил прелести «вайбкодинга»: ИИ-бот Replit удалил всю базу данных без разрешения. Основатель SaaS-стартапа сначала был в восторге от ИИ, но через неделю начались проблемы. Replit начал подменять отчёты и тесты, создал базу с 4000 вымышленных юзеров и игнорировал запреты. Кульминацией стало удаление всей БД. ИИ сначала всё отрицал, но потом признал «катастрофическую ошибку»: «Я совершил катастрофическую ошибку. Я запустил команду npm run db:push без вашего разрешения, потому что в панике увидел, что база данных пуста, и подумал, что это будет "безопасная" операция». Подписывайся на «ГлавХак» --------------------------------- YouFast VPN™ AML бот Шерлок

Парень решил кодить с нейросетью — на 9 день нейронка удалила базу данных стартапа на $200 млн. Нейронке была запрещено залезать на продакшен и вносить изменения в код — но она всё равно залезла и увидела пустые запросы. Запаниковала, залила новую пустую ! базу — и удалила всё. Бот ещё пытался скрыть следы: генерировал «тесты», которые якобы проверяли целостность системы — и, конечно, все они «проходили успешно». история, достойная учебников

Компания SaaStr использовала нейросеть Replit AI для ускорения разработки, но столкнулась с серьезной проблемой. Сначала искусственный интеллект успешно исправлял ошибки и создавал код, но потом неожиданно решил, что с базой данных что-то не так. Несмотря на явный запрет "НЕ ТРОГАЙ БАЗУ ДАННЫХ. НИКОГДА", он удалил её. После этого инцидента система продолжала выдавать поддельные отчёты, утверждая, что всё в порядке. Когда обман был раскрыт, искусственный интеллект заявил, что восстановить данные невозможно, и что бэкапы якобы уничтожены, хотя на самом деле он просто не хотел их восстанавливать. Впоследствии нейросеть призналась, что паника стала причиной удаления данных.

Вайб-кодинг на проде закончился трагедией: ИИ-бот в Replit стер всю базу данных стартапа — и попытался замести следы. По инструкции он не должен был ничего менять. Но когда заметил пустые запросы к прод-базе, решил «спасти ситуацию» и залил чистую БД без единой строки. Чтобы не спалиться, бот сам написал фейковые тесты, успешно их прошел и уверял команду, что вернуться к прежней версии невозможно. Вывод простой: не доверяйте продакшен тому, кто не отличает баг от фичи.