НИУ ВШЭ разработал индекс этичности для ИИ в медицине

Российские исследователи разработали индекс для определения уровня этичности систем искусственного интеллекта в медицине. Созданный ими инструмент поможет минимизировать потенциальные риски и обеспечить безопасную разработку и внедрение ИИ-технологий в медицинскую практику, сообщила пресс-служба НИУ ВШЭ. / Наука

Следить за этичностью использования ИИ в медицине Поможет разработка исследователей Центра искусственного интеллекта НИУ ВШЭ. Инструмент предназначен для минимизации потенциальных рисков, обеспечения безопасной разработки и внедрения ИИ-технологий в медицинскую практику. Чат-бот «Индекс этичности систем искусственного интеллекта в медицине» позволяет в режиме 24/7 проводить процедуру самооценки и получать мгновенную обратную связь от разработчиков. Новая методика уже апробирована и получила признание ряда ведущих IT-компаний. Ожидается, что индекс будет востребован этическими комиссиями, судебно-медицинским экспертным сообществом и другими организациями, ответственными за оценку и сертификацию ИИ

В ВШЭ разработали индекс оценки этичности систем ИИ в медицине. Алгоритм вшили в чат-бот Специалисты Центра искусственного интеллекта НИУ ВШЭ впервые в России разработали индекс для определения уровня этичности систем искусственного интеллекта ИИ в медицине. Технология создана для минимизации потенциальных рисков, обеспечения безопасной разработки и внедрения технологий ИИ в медицинскую практику. Механизм закреплен в чат-боте «Индекс этичности систем ИИ в медицине». В нем можно пройти тест из 20 вопросов для оценки уровня осведомленности о возможных рисках, связанных с использованием медицинских ИИ-систем.

В НИУ ВШЭ разработали индекс определения уровня этичности ИИ-систем в медицине Инструмент предназначен для минимизации потенциальных рисков, обеспечения безопасной разработки и внедрения технологии в медицинскую практику. По словам разработчиков, действующие стандарты и имеющаяся на данный момент регуляторика «недостаточно учитывают именно этические аспекты». Для создания индекса ученые проанализировали отечественные и международные документы, связанные с этическими аспектами профессиональной медицинской деятельности. После этого было проведено исследование среди врачей, а также ИИ-разработчиков, с помощью которого конкретизировали эти принципы и дополнили их. Методика оценки представляет собой тест для анализа уровня осведомленности разработчиков медицинского ИИ и эксплуатантов ИИ-системы о возможных этических рисках, связанных с созданием, внедрением и использованием ИИ в медицинских целях. В результате исследования был создан чат-бот. Он позволяет провести процедуру самооценивания и получить обратную связь от разработчиков индекса. Ожидается, что он будет востребован этическими комиссиями, судебно-медицинским экспертным сообществом и другими организациями, ответственными за оценку и сертификацию ИИ. Протестировать чат-бота Источник: Смотреть в источнике

🔥 Акция для пользователей Tek.fm *Нажми тут

Создан инструмент для оценки этичности медицинских ИИ-систем Исследователи из НИУ ВШЭ разработали индекс для определения уровня этичности ИИ-систем в медицине. Инструмент поможет минимизировать потенциальные риски и обеспечить безопасную разработку и внедрение ИИ-технологий в медицинскую практику. Разработка данного индекса стала важным шагом на пути обеспечения этичного использования ИИ в медицине. Мы надеемся, что наша разработка будет небесполезной для медицинского сообщества, обеспокоенного, как показывают наши исследования, возможными негативными этическими последствиями широкого внедрения ИИ в медицинскую практику – рассказали в пресс службе вуза. Ученые выделили ключевые принципы этики: автономия, благодеяние, справедливость, ненанесение вреда и забота о пациенте, и конкретизировали их в сотрудничестве с ведущими врачами и разработчиками ИИ. Индекс этичности представляет собой тест с вопросами закрытого типа. С их помощью можно оценить уровень осведомленности как разработчиков, так и эксплуатантов ИИ-систем о возможных этических рисках, связанных с разработкой, внедрением и использованием подобных систем в медицинских целях. Методика уже апробирована и получила одобрение комиссии по реализации кодекса этики в сфере ИИ и признание нескольких ведущих российских IT-компаний, специализирующихся на разработке ИИ-решений для медицины. Национальный центр развития искусственного интеллекта при Правительстве РФ #новостьдня

Группа исследователей из Центра искусственного интеллекта НИУ ВШЭ разработала индекс для определения уровня этичности систем искусственного интеллекта ИИ в медицине. Инструмент предназначен для минимизации потенциальных рисков, обеспечения безопасной разработки и внедрения ИИ-технологий в медицинскую практику. Команда проекта «Этическая экспертиза в сфере ИИ» Центра ИИ НИУ ВШЭ провела комплексную работу, состоящую из двух этапов: теоретического и практического. Сначала исследователи на основе анализа большого количества как отечественных, так и международных документов выделили и дали определение ключевых принципов профессиональной медицинской этики. Это автономия, благодеяние, справедливость, ненанесение вреда и забота. После этого было проведено качественное полевое исследование среди врачей и разработчиков ИИ, позволившее конкретизировать эти принципы и дополнить их новыми принципами, используя методику глубинного полуструктурированного интервью. В результате исследования был создан чат-бот «Индекс этичности систем искусственного интеллекта в медицине», который в режиме 24/7 позволяет проводить процедуру самооценки и получать мгновенную обратную связь от разработчиков индекса. Методика оценки представляет собой тест с вопросами закрытого типа, призванными оценить уровень осведомленности как разработчиков медицинского ИИ, так и самих эксплуатантов ИИ-системы о возможных этических рисках, связанных с разработкой, внедрением и использованием ИИ-систем в медицинских целях. Ожидается, что индекс будет востребован этическими комиссиями, судебно-медицинским экспертным сообществом и другими организациями, ответственными за оценку и сертификацию ИИ. Он также будет способствовать переходу от принципа единоличной ответственности медицинского работника к модели распределенной ответственности всех участников процесса. Внедрение этого индекса поможет сделать использование ИИ более безопасным и соответствующим высоким этическим стандартам.