ИИ помощник JetBrains неверно интерпретировал пожарную тревогу

Пожар работе не помеха сотрудник JetBrains рассказал как ИИ попросил сотрудников не покидать офис когда там начался пожар В офисе компании сработала пожарная тревога и после того как одна из сотрудниц упомянула об этом в общем чате ей в личку прилетело сообщение от ИИ помощника он сказал ей что это учебная тревога и покидать здание не нужно Только вот тревога была настоящей

Офисный ИИ чуть не сжег заживо сотрудников JetBrains В сети поделились интересной историей Когда в офисе сработала пожарная сигнализация и началась паника Один работяга написал в рабочий чат вопрос мол че за суета На что ответил ИИ помощник Glean Расслабьтесь это плановая учебная тревога и вам не нужно покидать своё рабочее место пока она звучит На деле тревога оказалась настоящей к зданию подлетали пожарные расчеты эвакуировать людей Получается нейронка буквально приговорила кожаных к прожарке Идеальная иллюстрация внедрения ИИ в бизнес Было бы прикольно если бы ИИ написал Ой ошибся Да действительно это не учебная тревога Хочешь сгенерирую гайд по лечению ожогов 4 й степени overlamer1

ИИ агент посоветовал не эвакуироваться при реальной пожарной тревоге История из офиса JetBrains стала вирусной после сообщения сотрудника о сработавшей сигнализации Согласно публикации в личные сообщения пришёл ответ от ИИ агента Glean тревога якобы плановая покидать рабочее место не требуется Фактически Сигнализация была реальной К зданию прибыли пожарные Сотрудников вывели на улицу ИИ выдал ложную интерпретацию события не имея подтверждённых данных о характере тревоги Факт автоматический ассистент вмешался в ситуацию связанную с безопасностью Вывод ИИ без прямой интеграции с проверенными источниками и протоколами может давать опасные рекомендации в критических сценариях