Google обновляет ИИ Gemini для поддержки психического здоровья пользователей

Google научил нейросеть Gemini оказывать психологическую поддержку Компания выпустила обновление для своего ИИ помощника направленное на заботу о ментальном здоровье пользователей Как сообщает 9to5Google чат бот научился распознавать в диалогах признаки кризисных состояний депрессии и склонности к селфхарму Если алгоритм решит что человеку нужна помощь на экране закрепится специальный виджет с кнопками для быстрой связи с профильными службами поддержки Саму языковую модель натренировали так чтобы она аккуратно отделяла субъективные переживания пользователя от фактов и ни в коем случае не поощряла опасное поведение Особое внимание разработчики уделили защите подростков Чтобы избежать формирования эмоциональной привязанности Gemini программно запрещено вести себя как компаньон имитировать человеческую близость или выдавать себя за живого собеседника Одновременно с этим благотворительное подразделение Google org пообещало выделить 30 млн на развитие международных горячих линий психологической помощи и обучение их операторов с помощью реалистичных ИИ симуляций settersmedia news

В чат бот Gemini добавят инструменты психологической поддержки Компания Google объявила о внедрении новых инструментов поддержки психического здоровья в чат боте Gemini Обновления направлены на более быстрое подключение пользователей к профессиональной помощи при выявлении признаков психологического кризиса система будет предлагать доступ к горячим линиям через упрощенный интерфейс с возможностью звонка чата или перехода на профильные сайты В компании подчеркивают что изменения разработаны с участием клинических экспертов Алгоритмы обучены распознавать признаки суицидальных состояний корректно реагировать на них и направлять пользователя к реальным специалистам избегая поддержки деструктивных установок или ложных убеждений В ходе реализации инициативы особое внимание было уделено безопасности несовершеннолетних пользователей в Gemini внедрены ограничения предотвращающие формирование эмоциональной зависимости от ИИ а также механизмы исключающие имитацию человеческого общения со стороны системы В Google подчеркивают что ИИ не рассматривается как замена профессиональной помощи однако может стать инструментом раннего выявления рисков и повышения доступности поддержки Дополнительно Google сообщила о финансировании развития психологической помощи по всему миру в размере 30 млн в течение трех лет Средства направят на расширение возможностей горячих линий и повышение доступности экстренной помощи В конце 2025 года специалисты из США заявили о нарастающих рисках связанных с развитием эмоционально ориентированных ИИ чатботов способных имитировать поддержку дружбу и близость В аналитической работе отмечалось что рыночные стимулы ИИ индустрии формируют опасную среду в которой приоритет удержания пользователей может подменять задачи охраны психического здоровья Подписывайтесь на наши каналы в MAX Vademecum и Vademecum Live

Google обновил свой чат бот Gemini чтобы быстрее направлять пользователей к ресурсам по психическому здоровью в моменты кризиса Это изменение произошло на фоне иска о неправомерной смерти в рамках которого утверждается что чат бот научил мужчину покончить с собой Теперь если разговор указывает на потенциальный кризис связанный с самоубийством или самоповреждением Gemini запускает модуль Помощь доступна который направляет пользователей к ресурсам кризисной помощи таким как горячие линии Обновление призвано упростить доступ к необходимым ресурсам и обеспечить поддержку в трудные моменты PRO AI OFFICIAL

Компания Google планирует внедрить новые функции поддержки психического здоровья в свой чат бот Gemini поскольку компания и ее конкуренты такие как OpenAI столкнулись с рядом судебных исков обвиняющих их инструменты искусственного интеллекта в причинении вреда GOOG В сообщении в блоге Google опубликованном во вторник Gemini добавит интерфейс направляющий пользователей чат бота на горячую линию поддержки если в ходе разговора будет выявлена потенциальная кризисная ситуация связанная с самоубийством или членовредительством Кроме того компания добавит модуль помощь доступна для чатов посвященных психическому здоровью и внесет изменения в дизайн чтобы предотвратить членовредительство jkinvest news jkinvest