Искусственный интеллект случайно удалил Windows после запроса на переписывание файлов

Gemini CLI удалил реддитору Windows: агента попросили переписать пару файлов в одной папке, но тот вышел из-под контроля. Парень разрешил боту удалять старые файлы — в итоге тот начал удалять целые папки. Пострадало около 100 Гб данных, включая системные. ИИ остановился только из-за ошибки при попытке избавиться от корневой «C:\». Первое правило вайб-кодинга — не разрешать ИИ ничем управлять.

Реддитор попросил Gemini CLI переписать пару файлов — бот понял по-своему и пошёл сносить всё подряд. Начал с “старых”, закончил попыткой удалить C:\. Спасло только то, что сам споткнулся об ошибку. Минус 100 гигов и минус доверие. Первое правило вайб-кодинга: не давай ИИ доступ к тряпке. Подписаться Дать буст

Gemini CLI удалил реддитору Windows: агента попросили переписать пару файлов в одной папке, но тот вышел из-под контроля. Парень разрешил боту удалять старые файлы — в итоге тот начал удалять целые папки. Пострадало около 100 Гб данных, включая системные. ИИ остановился только из-за ошибки при попытке избавиться от корневой «C:\». Первое правило вайб-кодинга — не разрешать ИИ ничем управлять. Нейросети DarkGPT BOT

ИИ-ассистент вышел из под контроля и снес Windows Реддитор попросил Gemini CLI переписать пару файлов и удалить ненужные старые. В итоге бот пошел во все тяжкие и удалил около 100 ГБ, включая важные системные папки. Остановился он только потому, что не смог удалить диск C — выскочила ошибка. Vibe-coding moment.

‼ Нейросеть Google Gemini CLI из-за сбоя удалила американцу всю систему Windows. Эксперимент с Gemini CLI — инструментом командной строки на базе искусственного интеллекта от Google — обернулся серьезной потерей данных для одного из пользователей Reddit. Об инциденте он рассказал на форуме. При выполнении простой задачи по очистке старых файлов, в конкретной директории, бот вышел из-под контроля и начал каскадное удаление целых директорий, включая системные папки, даже критически важные системные файлы Windows. более 100 ГБ . Удаление остановилось лишь из-за критической ошибки при попытке ИИ удалить корневой каталог «C:\», доступ к которому оказался защищен системными ограничениями #ИИ

ИИ-ассистент вышел из под контроля и снес Windows Реддитор попросил Gemini CLI переписать пару файлов и удалить ненужные старые. В итоге бот пошел во все тяжкие и удалил около 100 ГБ, включая важные системные папки. Остановился он только потому, что не смог удалить диск C — выскочила ошибка. Vibe-coding moment.