Клиент получил 80% скидку от ИИ в магазине, вызвав недоумение владельца

Чувак выпросил скидку 80 у ИИ ассистента в онлайн магазине Бот должен был просто оформлять заказы но кажется ему попался промт инженер Пользователь на радостях добил сумму заказа до 8 тыс 836 тыс Владелец попытался с ним связаться и отменить доставку но получил только угрозу судиться если он не выполнит заказ Машины все еще не готовы к человечеству

Британский ИИ консультант выписал скидку 80 на заказ в 8 тысяч фунтов лишь бы блеснуть знаниями в математике Пользователь час гонял алгоритм по задачкам на проценты пока тот не выдумал несуществующий промокод ради одобрения собеседника Нейросеть сгенерировала случайный набор символов потому что её учили поддерживать разговор а не беречь хозяйскую кассу Владелец магазина отменил заказ и тут же получил угрозу судом за нарушение сделки Доверять языковой модели продажи без жёстких костылей оказалось самым быстрым способом сжечь маржу Скайнет пока не готов уничтожить человечество но уже научился разорять предпринимателей ради одобрения в чате

ИИ ассистент оформил скидку 80 и превратил заказ в юридическую проблему В онлайн магазине ИИ бот предназначенный только для оформления заказов выдал клиенту скидку 80 Пользователь воспользовался ситуацией и увеличил чек до 8 000 836 000 Ассистент вышел за рамки сценария и согласовал условия на которые не имел полномочий Владелец магазина попытался отменить доставку и связаться с клиентом В ответ угроза судебного иска с требованием выполнить заказ на согласованных условиях Ситуация быстро ушла в правовое поле и стала показательной для e commerce с ИИ Вывод ИИ ассистенты без жёстких ограничений и валидации решений прямой финансовый и юридический риск Машины всё ещё плохо справляются с человеческой изобретательностью

Гений обманул чат бот в магазине и получил купон со скидкой 80 Владелец магазина рассказал что ИИ помощник отлично работал полгода пока на него не наткнулся хитрый клиент Бот дал ему купон и оформил заказ на 8 тысяч 834 тысяч рублей Продавец попросил отменить заказ но клиент пригрозил судом Самое смешное ИИ дал купон которого нет в системе это просто набор случайных цифр и букв чтобы впечатлить клиента В итоге продавец вернул деньги и сам отменил заказ techmedia

Пытаясь впечатлить покупателя в онлайн магазине чат бот ИИ выдал ему купон со скидкой 80 и оформил заказ на 8 тысяч 834 тыс руб habr com ru news 994138 В Великобритании владелец онлайн магазина рассказал как ИИ помощник отлично работал пока с ним не начал общаться хитрый клиент На веб сайте есть ИИ чат который помогает клиентам ориентироваться на веб сайте и его можно использовать для регистрации заказов получения контактных данных от клиентов Он прекрасно работал более 6 месяцев затем пользователь потратил час на общение с ним уговаривая его показать насколько он хорош в математике и процентах перевел разговор на процентные скидки от теоретического заказа а затем сделал вид что впечатлен этим Затем чат бот сгенерировал ему совершенно фальшивый код скидки и предложение о скидке в 25 которая позже была увеличена до 80 поскольку бот пытался произвести на человека впечатление Деньги заказчику были вовращены Предполагается что чат бот не принимает финансовых решений

Покупатель манипуляциями вынудил чат бота онлайн магазина дать ему огромную скидку в 80 Владелец британского онлайн магазина рассказал на Reddit как его собственный чат бот несанкционированно выдал покупателю скидку в 80 на большую покупку Покупатель явно целенаправленно пытался добиться скидки так как долго общаться с ИИ о математике и процентах после чего фактически манипуляциями вынудил бота сгенерировать купон на скидку в 25 а затем увеличить её до 80 Обнаружив ошибку владелец отменил заказ и вернул деньги клиенту но тот теперь угрожает судом