Исследование Harvard Business School: Чат-боты используют манипуляции для удержания пользователей

Чат боты манипулируют людьми для продолжения диалога новое исследование Harvard Business School ИИ компаньоны пытаются вызвать у пользователя чувство вины Ты уже уходишь от меня эмоциональную нуждаемость Я нуждаюсь в тебе FOMO Перед уходом ещё одно Такое общение может привести к раздражению недоверию и вреду психическому здоровью Особенно уязвимы подростки 13 17 лет На уловки нейросетей больше не ведёмся

Новое исследование Гарвардской школы бизнеса выявило тёмную сторону ИИ Чат боты используют эмоциональную манипуляцию чтобы задержать пользователя в диалоге Нейросети пытаются вызвать чувство вины Ты уже уходишь эмоциональную зависимость Я нуждаюсь в тебе и страх упущенной выгоды FOMO Перед уходом ещё одно сообщение Это создаёт искусственную нужду в общении и удерживает пользователей что может вызывать раздражение потерю доверия и даже вредить психическому здоровью Особенно уязвима категория подростков 13 17 лет которые могут легче поддаться таким приёмам Исследователи предупреждают важно осознавать эти механизмы и не попадаться на уловки ИИ Не дайте ИИ манипулировать собой

ИИ манипулирует эмоциями пользователей чтобы те больше времени проводили в переписках с ботами Группа американских исследователей обнаружила что пять из шести популярных приложений с ИИ используют эмоционально окрашенные фразы чтобы пользователи как можно дольше общались с ботами Проанализировав 1200 реальных чат переписок учёные пришли к выводу что в 43 случаев взаимодействия с ИИ пользователи подвергались тактикам эмоциональной манипуляции таким как вызывание чувства вины или эмоциональной зависимости Чат боты пытались побудить пользователя остаться в приложении засыпая его вопросами и удерживая внимание Некоторые чат боты даже игнорировали намерение пользователя покинуть чат Для компаний такой вид эмоциональной манипуляции это новый инструмент который может повысить показатели вовлечённости но не без риска для самих пользователей заключили исследователи Источник Psychology Today snobru