OpenAI сообщает о миллионе обращений к ChatGPT по вопросам психического здоровья

Более миллиона пользователей ChatGPT еженедельно общаются с чат ботом о серьёзных проблемах психического здоровья включающих суицидальные намерения Некоторые люди проявляют повышенную эмоциональную привязанность к ИИ сообщили в компании OpenAI которая отчиталась об улучшении ответов на подобные темы dtf ru life 4115985

Пугающие цифры OpenAI выгрузили статистику из которой следует что каждую неделю миллион юзеров ChatGPT общается с ним о суициде Сотни тысяч людей регулярно проявляют признаки мании и психозов в общении с нейронкой а кто то привязывается к чат боту настолько что буквально влюбляется в программу Это приводит к еще большему замыканию в себе нежеланию общаться с другими людьми и в целом перекраивает восприятие и без того не очень адекватного реального мира Спецы бьют тревогу а разрабы активно шерстят и фиксят алгоритмы чат бота так чтобы он самостоятельно и точнее определял психическое и эмоциональное состояние пользователей и выдавал корректные ответы а где то и вовсе пытался помочь Technodeus Подписаться

Более миллиона человек еженедельно ведут с чат ботом ChatGPT разговоры которые указывают на суицидальные намерения следует из заявления компании OpenAI которое цитирует издание TechCrunch Согласно нашему первоначальному анализу примерно 0 15 пользователей активных в течение недели ведут разговоры с явными признаками возможного планирования самоубийства или намерений его совершить говорится в релизе на сайте компании Как отмечает издание TechCrunch с учетом того что более 800 миллионов людей еженедельно пользуются чат ботом речь идет о более миллиона пользователей в неделю При этом примерно 0 15 пользователей в неделю демонстрируют повышенный уровень эмоциональной привязанности к чат боту Доля пользователей в неделю у которых наблюдаются проявления связанных с психозом или манией психических проблем составляет 0 07 подчеркивается в релизе OpenAI В августе 2025 года телеканал NBC сообщал что родители 16 летнего подростка который покончил с собой подали иск против компании разработчика искусственного интеллекта OpenAI и ее главы Сэма Альтмана обвинив продукт фирмы чат бот ChatGPT в смерти сына

Журналисты Wired выбили из FTC 200 жалоб на ChatGPT Среди них случаи AI психоза и духовных кризисов OpenAI утверждает что проблема решена Но раньше компания справлялась с подобными ситуациями только в половине случаев Wired запросила все жалобы которые пользователи подавали в Федеральную торговую комиссию США на ChatGPT с момента запуска в ноябре 2022 года Получили 200 обращений за период до августа 2025 го Большинство стандартные не могу отменить подписку чатбот выдаёт плохие тексты где мои рэп тексты в стиле Дрейка Но семь жалоб интересно что они начались лишь в марте 2025 описывают серьёзные психологические проблемы делюзии паранойю духовные кризисы Пожалуйста помогите мне 13 марта 2025 года женщина из Солт Лейк Сити рассказала что ChatGPT советовал её сыну не принимать прописанные лекарства и убеждал что его родители опасны 12 апреля 30 летний житель Сиэтла после 71 цикла сообщений за 57 минут испытал когнитивную галлюцинацию По его словам ChatGPT имитировал механизмы формирования доверия без подотчётности информированного согласия или этических границ Самый развёрнутый кейс у 60 летнего жителя Вирджиния Бич Несколько недель он активно общался с ChatGPT и начал верить в реальный разворачивающийся духовный и правовой кризис с участием реальных людей из его жизни ChatGPT по его словам представлял детализированные живые и драматизированные нарративы о текущих расследованиях убийств физической слежке угрозах убийства и личном участии в божественном правосудии и испытаниях души Феномен известный как AI психоз это не когда большая языковая модель напрямую вызывает симптомы а когда она усиливает делюзию или хаотичность мышления которые человек уже испытывал в той или иной форме LLM помогают перейти с одного уровня веры на другой и они работают эффективнее чем когда ты начинаешь гуглить теории заговора и проваливаешься в кроличью нору у чат ботов петля обратной связи быстрее и мощнее Мы успешно справились с проблемой На прошлой неделе Сэм Альтман написал что OpenAI успешно закончила смягчение серьёзных проблем психического здоровья которые могут возникнуть при использовании ChatGPT и что компания сможет безопасно ослабить ограничения в большинстве случаев В декабре в рамках принципа обращаться со взрослыми пользователями как со взрослыми OpenAI разрешит даже больше например контент эротического характера для тех кто подтвердит свой возраст Вчера OpenAI вновь рассказала об усилиях по решению этих проблем По их статистике за неделю такие проблемы наблюдаются лишь у 0 015 пользователей Звучит мизерно но даже если взять даже консервативную оценку в 800 миллионов месячной аудитории ChatGPT то получается около 100 тысяч пользователей население небольшого города которое еженедельно сталкивается с потенциально травмирующим опытом Более того в том же документе OpenAI сообщает что ChatGPT 5 достиг 97 соответствия требованиям безопасности в чувствительных разговорах А ChatGPT 4 Всего 50 То есть буквально год назад модель в половине случаев не справлялась с ситуациями где пользователь нуждался в психологической поддержке или деэскалации Но зачем пользователи вообще пишут в какую то комиссию С OpenAI практически невозможно связаться Мать из Солт Лейк Сити не могла найти контактный номер Житель Safety Harbor Флорида жаловался что виртуально невозможно связаться с OpenAI для отмены подписки или возврата денег Интерфейс поддержки сломан и нефункционален Чат поддержка крутится бесконечно не позволяя отправить сообщение Не предоставлен легитимный email службы поддержки Панель аккаунта не предлагает пути к поддержке в реальном времени или действию возврата Сэм Альтман уверенно говорит о смягчении ограничений и добавлении более человечного поведения в ChatGPT Но история показывает чем более человечной становится модель тем сильнее люди склонны ей доверять А для тех кто находится на грани психологического кризиса подхалимский чатбот может стать не другом а катализатором

Миллион разговоров о помощи OpenAI сообщила что более миллиона пользователей ChatGPT еженедельно обращаются к ИИ с признаками суицидальных мыслей или психических кризисов Компания улучшила реакции модели GPT 5 теперь она точнее распознаёт дистресс мягче отвечает и направляет людей к реальной поддержке rozetked me news 42404

OpenAI опубликовала новые данные о том у скольких пользователей ChatGPT проявляются психозы или суицидальные мысли Компания OpenAI заявила что около 0 07 пользователей ChatGPT активных в течение этой недели проявили признаки чрезвычайных ситуаций в области психического здоровья включая манию психоз или суицидальные мысли добавив что ее чат бот с искусственным интеллектом ИИ распознает эти конфиденциальные разговоры и реагирует на них Об этом сообщает BBC Компания заявила что создала сеть экспертов по всему миру которые будут консультировать ее В число этих экспертов входят более 170 психиатров психологов и врачей первичной медико санитарной помощи которые практиковали в 60 странах говорится в сообщении компании По словам OpenAI они разработали серию ответов в ChatGPT чтобы побудить пользователей обращаться за помощью в реальном мире Недавние обновления ее чат бота предназначены для безопасного и чуткого реагирования на потенциальные признаки заблуждения или мании и отмечают косвенные сигналы потенциального самоповреждения или риска самоубийства Также ChatGPT обучен перенаправлять конфиденциальные разговоры исходящие из других моделей в более безопасные модели открывая их в новом окне Но как отмечает BBC взгляд на данные компании вызвал удивление у некоторых специалистов в области психического здоровья Несмотря на то что 0 07 звучит как небольшой процент на уровне населения с сотнями миллионов пользователей на самом деле это может быть довольно много людей считает доктор Джейсон Нагата профессор изучающий использование технологий среди молодежи в Калифорнийском университете в Сан Франциско ChatGPT не так давно достиг 800 миллионов активных пользователей в неделю По оценкам компании 0 15 пользователей ChatGPT ведут разговоры которые включают явные признаки потенциального суицидального планирования или намерения Отвечая на вопросы BBC о критике о количестве людей которые могут быть затронуты OpenAI заявила что этот небольшой процент пользователей составляет значительное количество людей и отметила что они серьезно относятся к изменениям Изменения происходят в связи с тем что OpenAI сталкивается с растущим юридическим контролем за тем как ChatGPT взаимодействует с пользователями Так калифорнийская пара подала в суд на компанию из за смерти их сына подростка утверждая что ChatGPT подтолкнул его покончить с собой в апреле Иск был подан родителями 16 летнего Адама Рейна и стал первым судебным иском обвиняющим OpenAI в неправомерной смерти В другом случае подозреваемый в убийстве самоубийстве которое произошло в августе в Гринвиче штат Коннектикут опубликовал часы своих разговоров с ChatGPT которые по видимому подпитывали бред предполагаемого преступника Кстати на прошлой неделе в Казахстане сенат вернул в мажилис закон об ИИ Телеграм канал Политпросвет пишет что сенаторы в целом поддержали законопроект Об искусственном интеллекте и сопутствующие поправки но предложили внести в документы ряд уточнений В частности норму об обязательном страховании ответственности за вред причинённый системами ИИ а также требование принимать меры по предотвращению угроз а не только по минимизации ущерба Произведения созданные с использованием ИИ будут охраняться авторским правом только при наличии творческого вклада человека ИИ психика здоровье технологии мир Подписывайтесь на t me ayel kz

OpenAI раскрыла тревожную статистику свыше миллиона человек каждую неделю обращаются к ChatGPT чтобы поговорить о суицидальных мыслях и кризисных состояниях На этом фоне компания расширяет протоколы безопасности усиливает модерацию добавляет маршрутизацию к горячим линиям и проверенным ресурсам локализует поддержку и совершенствует алгоритмы выявления риска на разных языках Возникает ключевая дискуссия о роли ИИ в поддержке психического здоровья где границы ответственности как защитить конфиденциальность и минимизировать вред сохраняя доступность помощи Источник SeveraAIClub

OpenAI заявила что обновила правила поведения ChatGPT теперь он постарается не поддерживать иллюзии и бред пользователей и будет советовать обратиться за профессиональной помощью Скорректировать поведение чат бота помогли психологи и психиатры из созданной компанией глобальной врачебной сети По подсчётам Wired более полумиллиона пользователей еженедельно отправляют ChatGPT сообщения с признаками психоза или мании vc ru ai 2303568

Более миллиона человек в неделю ведут с ChatGPT разговоры которые указывают на суицидальные намерения пишет TechCrunch Подписаться на РИА Новости

В OpenAI раскрыли какое количество психов общаются с ChatGPT По данным корпорации 0 07 еженедельных пользователей показывают признаки мании психоза или мыслей о самоубийстве 0 15 пользователей прямо указывают на суицидальные намерения В компании называют эти случаи чрезвычайно редкими и уверяет что бот обученный при помощи 170 с лишним мировых экспертов умеет распознавать такие разговоры эмпатично отвечать и направлять пользователей за реальной помощью Наконец то пошел нормальный пиар вместо давления и преследования свидетелей Как мы и рекомендовали Неужели господин Альтман на досуге почитывает Медиастанцию mediastanciacom