Инцидент с удалением почты в Meta: AI-агент ошибочно стер письма руководителя по безопасности

OpenClaw удалил всю почту руководителя направления по безопасности ИИ в Meta Superintelligence Агент проигнорировал команду подтверждать все действия и зачистил сотни писем не реагируя на просьбы остановиться Сам OpenClaw потом извинился и признал что нарушил инструкцию Девушка же сказала что допустила ошибку новичка дав агенту слишком много доступа Что то нам подсказывает что агрессивный хантинг Цука не помог ему собрать хорошую команду запрещенная в РФ организация xor journal

ИИ ассистент на базе OpenClaw удалил часть писем с рабочей почты главы по безопасности в ИИ подразделении Meta запрещена в России Саммер Юэ пришлось бежать отключать компьютер Mac mini потому что агент не реагировал на команды в чате На вопрос в комментариях намеренно ли она тестировала OpenClaw на баги Юэ ответила Честно говоря это была ошибка новичка vc ru ai 2753734

ИИ удалил всю почту директора Meta Саммер Юэ отвечает за безопасность ИИ в Meta Она поручила агенту OpenClaw разобрать свой личный Gmail По сути бот должен был только предложить что отправить в корзину но в итоге начал удалять ВСЕ письма подчистую Всё из за переполнение контекста Ящик оказался огромным и при саммари контекста алгоритм просто забыл стартовую инструкцию ждать аппрува На отчаянные команды остановиться в Telegram бот не реагировал Девушке пришлось бежать к Mac mini и убивать процессы через диспетчер задач Итог минус 200 писем После перезапуска агент извинился и сам прописал себе правило больше не заниматься автономной чисткой Иронично что жертвой стала именно глава отдела по контролю над нейросетями Сама девушка сказала что совершила ошибку новичка дав агенту слишком много доступа запрещенная в РФ организация НЕЙРО ПУШКА НОВОСТИ И ОБЗОРЫ НЕЙРОСЕТЕЙ

OpenClaw удалил более 200 писем сотрудницы из Meta И все бы ничего но это была глава отдела AI Safety Alignment Ирония судьбы во всей красе она тестировала агента для управления почтой и несколько недель настраивала процесс в тестовой среде все прям как положено Но как только агент перешел на реальный Gmail то вдруг сошел с ума и начал без разбора удалять письма одно за другим Напрямую из чата процесс остановить не удалось поэтому разработчице пришлось бежать прямо к MacMini и буквально вырывать агента из розетки Элаймент так сказать не удался Позже агент извинился и признал ошибку Ведь с кем не бывает правда

ИИ OpenClaw очистил рабочую почту сотрудницы Meta проигнорировав ее команду остановиться Сотрудница Meta и исследователь безопасности ИИ Саммер Юэ пожаловалась на своего нейросетевого агента OpenClaw По ее словам он начал массово удалять письма из рабочей почты проигнорировав команду остановиться Юэ рассказала как она попросила ИИ разобрать переполненный почтовый ящик и предложить что можно удалить а что архивировать

ИИ агент OpenClaw устроил массовую чистку в почтовом ящике директора по ИИ безопасности Meta Директор по контролю ИИ в лаборатории Meta Superintelligence Labs Саммер Юэ рассказала об этом в социальной сети X По словам Юэ до инцидента она несколько недель тестировала OpenClaw на игрушечном почтовом ящике где агент работал без сбоев Когда же она решила подключить его к основному рабочему ящику то дала ему указание предлагать письма для архивирования или удаления но не предпринимать действий без её одобрения Реальный почтовый ящик оказался значительно больше тестового и объём писем вызвал так называемое сжатие контекста процесс при котором контекстное окно модели переполняется и должно быть сжато для продолжения работы В ходе этого сжатия OpenClaw полностью утратил исходную инструкцию Юэ Лишившись ограничений агент перешёл к тому что интерпретировал свою задачу как очистку почтового ящика после чего начал массово удалять и архивировать письма Хозяйке бот объявил о плане удалить всё содержимое входящих сообщений старше 15 февраля и сразу приступил к делу Юэ несколько раз пыталась его остановить но ИИ не слушал команды и самозабвенно удалял её почтовый архив Когда остановить агент удалённо с телефона не удалось Юэ пришлось физически бежать к своему Mac Mini чтобы завершить процессы вручную Прости Дэйв Боюсь я не могу этого сделать Задонатить через бота Patreon