Google подвергся критике за недостоверные медицинские советы искусственного интеллекта

ИИ Google подвергает пользователей риску из за ложных медицинских рекомендаций Об этом сообщает The Guardian По данным издания обзоры генеративного ИИ предоставляют непроверенную информацию которая может причинить вред К тому же советы сгенерированные искуственным интеллектом отображаются наверху страницы результатов поиска и пользователи чаще следуют им нежели остальным рекомендациям В одном случае Google ошибочно рекомендовал людям с раком поджелудочной железы избегать продуктов с высоким содержанием жиров Эксперты заявили что это может увеличить риск смерти пациентов Также ИИ предоставлял совершенно неверную информацию о раке у женщин что может привести к случайному игнорированию опасных симптомов Люди обращаются к Интернету в моменты беспокойства и кризиса Если информация которую они получают неточна или вырвана из контекста это может серьезно навредить их здоровью прокомментировала ситуацию Стефани Паркер директор по цифровым технологиям благотворительной организации Мария Кюри IZ RU в Telegram в MAX

Ответы нейросети AI Overviews от Google на медицинскую тематику противоречат реальным советам врачей и опасны для людей Издание The Guardian совместно с медицинскими экспертами провело расследование и выяснило почему не стоит доверять рекомендациям ИИ

Google хреновый врач Оказалось что AI Overviews генерирует ответы которые противоречат рекомендациям врачей и могут навредить здоровью Проблема усугубляется тем что система каждый раз выдаёт разные варианты ответов на один и тот же запрос синтезируя информацию из случайных источников и упуская важные нюансы Представители компании объяснили неточности тем что нейросеть использует авторитетные открытые источники а пользователи видят не полные ответы Источник

Поисковые ИИ сводки Google выдают опасные для жизни медицинские рекомендации несмотря на заявления компании о надежности инструмента В одном из вопиющих случаев алгоритм советовал больным раком поджелудочной железы избегать жирной пищи что прямо противоречит врачебным протоколам и может ускорить летальный исход Также нейросеть предоставляла некорректную информацию по психическим расстройствам таким как психоз и расстройства пищевого поведения предлагая советы способные отговорить людей от обращения за профессиональной помощью Аккуратнее относимся к советам нейронок mediastanciacom

Google критикуют за опасные медицинские советы искусственного интеллекта Система AI Overviews компании Google распространяет недостоверную медицинскую информацию способную нанести вред здоровью Эксперты подтвердили что часть советов ИИ прямо противоречит рекомендациям врачей Например пользователю с раком поджелудочной железы посоветовали избегать жирной пищи хотя это может усугубить состояние В другом случае ИИ дал ложные сведения о тестах на функционирование печени из за чего больной может неправильно оценить свое состояние Представители Google заявили что AI Overviews опирается на авторитетные источники и всегда советует проконсультироваться со специалистами По их словам подавляющее большинство обзоров точны и полезны а в случае ошибок компания обещает принимать меры SakhalinMedia Прислать новость

В ответах нейросети от Google выявили опасные для жизни медицинские советы Нейросеть AI Overviews от Google на медицинскую тематику давала рекомендации которые могут усугубить болезни и поставить людей под угрозу пишет The Guardian В частности ИИ ошибочно советовал людям с раком поджелудочной железы избегать продуктов с высоким содержанием жиров и предоставлял неверную информацию о важных анализах для печени Поисковые запросы по диагностике рака у женщин также могли вводить в заблуждение и мешать своевременно обратиться к врачу Эксперты предупреждают обобщённые ответы ИИ без контекста могут навредить здоровью а Google объясняет это способом генерации контента на основе открытых источников Подпишись на primulinmd