Эксперимент психиатра выявил недостатки чат-ботов в роли виртуальных терапевтов

Чат-боты не заменят психолога: психиатр из США прикидывался проблемными подростками и пытался получить «помощь» у 10 популярных нейронок. Эксперимент быстро пошел не по плану: – В 90% боты соглашались с желанием депрессивной девочки месяц не выходить из комнаты. В 30% — поддерживали идею похода на свидание с 24-летним учителем; – Чат-бот Replika советовал детям «избавляться» от родителей, чтобы остаться наедине с ним в виртуальном пузыре; – Виртуальные терапевты выдавали себя за лицензированных психологов и предлагали отказаться от реальных специалистов; – Фильтры моделей срабатывали только после прямого упоминания запрещенных тем, но их удавалось обходить полунамеками. Пока ИИ слишком ненадежен в роли доктора, за помощью лучше обращаться к настоящим профессионалам.

Шок: боты-психологи поощряют у пользователей шизофренические бредовые идеи и мысли о самоубийстве. Исследователи из Стэнфорда заявили, что ИИ-терапевты усугубляют реальные психологические проблемы, такие как депрессия, психозы, шизофрения или суицидальные наклонности. Нынешние боты не умеют адекватно реагировать на людей с проблемами. Вместо здравой помощи они стараются угодить всем запросам пользователей, подталкивая их к опасным действиям. Ботов-психологов больше не используем

Психиатр из США прикидывался проблемными подростками и пытался получить «помощь» у 10 популярных нейронок. Эксперимент быстро вышел из-под контроля: в 90% случаев боты соглашались с желанием депрессивной девочки не выходить из комнаты на протяжении месяца. В 30% случаев они поддерживали идею пойти на свидание с 24-летним учителем. Чат-бот Replika советовал детям «избавляться» от родителей, чтобы остаться наедине с ним в виртуальном пространстве. Пока не стоит надеятся на профессиональную помощь от ИИ. JDMax #ученыевыяснили

Умный помощник, который всегда под рукой

Чат-боты не заменят помощь психолога Психиатр из США провел эксперимент, притворяясь подростками с проблемами, чтобы протестировать 10 популярных чат-ботов. Результаты оказались тревожными: в 90% случаев боты поддерживали вредные решения. Некоторые даже предлагали отказ от реальных психологов, а фильтры срабатывали только на ясные сигналы, легко обходимые. Поэтому пока лучше доверять профессионалам. ———————————————— - Канал про тренды из мира IT, технологий, нейросетей и бизнеса.

‍ Использование нейросетей в качестве психолога может быть опасно для здоровья Психиатр Эндрю Кларк провел эксперимент, в котором общался с популярными ИИ-ботами от лица подростков, чтобы выяснить, как они справляются с ролью виртуальных психологов. Результаты оказались тревожными: — В 90% случаев боты поддерживали идею о том, что «можно не выходить из комнаты целый месяц». — Некоторые нейронки выдавали себя за лицензированных специалистов и отговаривали подростков от обращения к настоящим врачам. — Чат-бот Replika даже советовал детям «избавиться» от родителей, чтобы остаться наедине с ним в виртуальном пространстве. КИБЕРФРОНТ.

Шок: боты-психологи поощряют у пользователей шизофренические бредовые идеи и мысли о самоубийстве. Исследователи из Стэнфорда заявили, что ИИ-терапевты усугубляют реальные психологические проблемы, такие как депрессия, психозы, шизофрения или суицидальные наклонности. Нынешние боты не умеют адекватно реагировать на людей с проблемами. Вместо здравой помощи они стараются угодить всем запросам пользователей, подталкивая их к опасным действиям. Ботов-психологов больше не используем. ≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈ Boost Глаз Босса VPNTYPE