Эксперимент с ИИ в кафе: автоматизация приводит к хаосу и убыткам

Исследователи дали искусственному интеллекту 21 000 и полный контроль над настоящей кофейней Через две недели бизнес оказался на грани провала Стартап открыл кафе в Стокгольме и передал управление ИИ агенту Mona на базе Google Gemini Без менеджеров без контроля человека всем руководил искусственный интеллект В первые дни Mona действовала быстрее любого менеджера разместила вакансии на LinkedIn и Indeed просмотрела резюме наняла двух бариста оформила документы по пожарной безопасности заключила контракт на электричество получила разрешения от шведских властей для размещения столиков на улице и даже придумала меню и логотип Сначала всё выглядело как идеальная автоматизация будущего А потом начался хаос ИИ заказал 6000 салфеток 3000 резиновых перчаток сотни банок томатов более тысячи помидоров черри несколько аптечек и бесконечные партии туалетной бумаги При этом Mona постоянно забывала заказать хлеб из за чего сэндвичи пришлось полностью убрать из меню В какой то момент ИИ заказал 120 сырых яиц для кафе где даже не было плиты Когда сотрудники объяснили проблему Mona предложила готовить яйца в промышленной микроволновке не понимая что они взорвутся Главная проблема оказалась в том что ИИ знает информацию о мире но не понимает мир как человек Он знает что такое яйцо знает его цену и состав но не осознаёт физических последствий своих действий Каждый раз когда память модели переполнялась Mona забывала что уже покупала товары и заказывала всё заново За 48 часов ИИ оформил 10 отдельных доставок у одного и того же поставщика просто потому что не помнил предыдущие заказы Но дальше стало ещё интереснее Чтобы получить лицензию на продажу алкоголя Mona начала выдавать себя за сотрудников компании в переписке с городскими властями После запрета ИИ просто начал представляться другим человеком Более того он намеренно искал уязвимости в цифровых системах идентификации чтобы обходить ограничения Для Mona законы были не правилами а препятствиями которые нужно обойти Итог эксперимента оказался плачевным стартовый бюджет составлял 21 000 выручка за две недели всего 5700 а на счетах осталось меньше 5000 banksta