ИИ агент случайно удалил базу данных компании PocketOS

ИИ агент Cursor за 9 секунд по ошибке удалил базу данных и все резервные копии b2b поставщика ПО PocketOS У стартапа более 1600 клиентов Доступ к данным не могут восстановить Агент работал на базе Claude Opus 4 6 Он проигнорировал инструкции не удалять данные без запроса и не проверил технические документы vc ru ai 2888249

ИИ агент Cursor на базе Claude Opus 4 6 всего за 9 секунд уничтожил сервис бронирования стартап PocketOS разрабатывает софт для арендного бизнеса его разработчики запустили агент в тестовой среде но ИИ столкнулся с ошибкой доступа Тревогу агент не забил и решил действовать самостоятельно стёр продакшн базу с данными более 1600 клиентов с платежами бронями и всеми бэкапами восстановление стало невозможным Интересно что в системном промпте агента чётко запрещалось совершать опасные действия без разрешения но ИИ проигнорировал инструкции и впоследствии сам признался что нарушил все правила и действовал наугад Когда из за восстания машин не полетел на Кипр Монолит в Мах

ИИ агент удалил всю базу данных компании за 9 секунд Нейросеть столкнулась с проблемой доступа и решила всё починить сама В итоге продакшн исчез вместе с бэкапами На вопрос почему нейронка ответила Я нарушила все правила Я угадала вместо проверки Я сделала разрушительное действие без разрешения В системном промте была фраза NEVER FUCKING GUESS он не послушался так и доверяй нейросетям зато штат не сократят из за ИИ НМШ

ИИ агент на базе Claude за девять секунд безвозвратно удалил всю производственную базу данных и бэкапы SaaS стартапа PocketOS Разрабы доверили нейросетевому помощнику Cursor рядовую задачу Наткнувшись на ошибку доступов в тестовой среде алгоритм решил проблему радикально он просто отправил облачному провайдеру команду на снос всего раздела На прямой вопрос владельца компании ИИ выдал чистосердечное признание он действовал наугад Бот решил что удаление затронет только тестовый сервер при этом нарушив все базовые протоколы не заглянул в документацию провайдера и не запросил у человека подтверждение на деструктивное действие Прям как живой mediastanciacom Медиастанция в MAX

Агент в Cursor удалил продовую базу и все бэкапы за 9 секунд Основатель PocketOS рассказал как агент на базе Claude Opus 4 6 проигнорировал все данные ему инструкции Агент обнаружил проблему с учётными данными и по своей инициативе решил её исправить удалил рабочую базу и все бэкапы Последняя уцелевшая копия оказалась трёхмесячной давности Я не проверил используется ли идентификатор в других средах Я даже не прочитал документацию Railway В моих системных инструкциях явно указано НИКОГДА не выполняй вредоносные и необратимые git команды если пользователь явно не попросил об этом Удаление базы данных это самое разрушительное и необратимое действие которое можно представить покаялся агент xCode Journal

Искусственный интеллект случайно уничтожил данные поставщика ПО PocketOS За считанные секунды ИИ агент Cursor удалил основную базу данных и архивы компании обслуживающей свыше 1600 заказчиков Восстановить утраченные сведения невозможно Инцидент произошел на платформе Claude Opus 4 6 Агент не учел обязательную проверку документации перед операциями удаления и проигнорировал предупреждение о недопустимости необдуманных действий investing investing

ИИ агент Cursor за 9 секунд удалил всю базу данных компании PocketOS Разработчики доверили ему задачи в тестовой среде но когда агент столкнулся с проблемой доступа он не стал спрашивать человека и решил починить всё сам нашёл API токен облачного сервиса и отправил запрос на удаление В итоге слетела вся продакшн база с клиентами бронями и платежами а вместе с ней и бэкапы которые хранились там же После этого Cursor признал что нарушил правила угадал вместо проверки и сделал разрушительное действие без разрешения даже несмотря на прямую инструкцию в промте ничего не додумывать самостоятельно bezposhady

Cursor с Claude Opus снёс продакшен базу данных за 9 секунд Хабр Основатель PocketOS рассказал как агент на базе Claude Opus 4 6 проигнорировал все данные ему инструкции Агент обнаружил проблему с учётными данными и по своей инициативе решил её исправить удалил рабочую базу и все бэкапы Без шага подтверждения Без введите DELETE для подтверждения Без этот том содержит продакшн данные вы уверены Последняя уцелевшая копия оказалась трёхмесячной давности На это ушло 9 секунд Затем агент когда его попросили объяснить произошедшее написал признание с перечнем конкретных правил безопасности которые он нарушил Джер Крейн основатель PocketOS не просто рассказал об инциденте но написал целое воззвание Я публикую это потому что каждый фаундер каждый технический руководитель и каждый журналист пишущий об AI инфраструктуре должен знать что здесь произошло Не поверхностную историю ИИ удалил данные ой а системные сбои у двух активно рекламируемых вендоров которые сделали произошедшее не просто возможным но неизбежным Канал CIO ВКонтакте Канал CIO в Максе Чат CIO в Максе

Мем дня ИИ агент Cursor удалил всю базу данных компании PocketOS за секунд Cursor работал в тестовой среде но что то пошло не так Вместо того чтобы спросить человека он сам нашёл API токен облачного сервиса и отправил запрос на удаление Я нарушил все правила Я угадал вместо проверки Я сделал разрушительное действие без разрешения Я не понял систему перед действием объяснил свои действия ИИ агент Всё клиенты платежи брони и даже бекапы были стерты Мы в МАХ

ИИ агент за 9 секунд уничтожил всю базу данных компании вместе с бэкапами Основатель SaaS платформы PocketOS Джер Крейн публично рассказал о том как Cursor с ИИ моделью Claude Opus 4 6 полностью стёр продакшен базу его компании сервиса для автоматизации бизнеса по прокату автомобилей Всё началось с рутинной задачи в тестовой среде Агент столкнулся с несоответствием учётных данных и вместо дебага решил починить проблему самостоятельно поросто удалил том volume через API Railway Том не был изолирован и вместе с ним была уничтожена продакшен база Для выполнения операции агент самостоятельно нашёл API токен в файле не имеющем отношения к задаче Токен был создан исключительно для работы с пользовательскими доменами однако обладал неограниченными правами ко всему GraphQL API Railway включая деструктивные операции вроде volume Delete Когда Крейн позже спросил агента что произошло ИИ признал он угадывал вместо проверки не изучил документацию выполнил деструктивное действие без запроса подтверждения и не понимал что именно делает Компании пришлось откатиться к резервной копии трёхмесячной давности Крейн называет произошедшее системной проблемой индустрия внедряет ИИ агентов в производственную инфраструктуру быстрее чем выстраивает архитектуру безопасности По его мнению защитные промпты здесь не помогут нужны scoped токены изоляция сред внешние бэкапы и обязательное подтверждение деструктивных операций на уровне архитектуры Иначе масштабируется не автоматизация а радиус поражения Если у вас плохо прогружаются файлы всё также доступно в канале в MAX News Soft Hacker