Кристалина Георгиева поднимает вопросы регулирования искусственного интеллекта на встречах МВФ в Вашингтоне

МВФ предупредил что ИИ может превратиться в черный ящик для регуляторов Международный валютный фонд опубликовал исследование в котором оценил как финансовые регуляторы по всему миру внедряют технологии искусственного интеллекта По данным МВФ уже около 60 надзорных органов изучают возможности интеграции ИИ в свою работу а доля стран использующих генеративный ИИ выросла с 8 до 19 за год Однако распространение технологий остается неравномерным в развитых странах suptech инструменты применяют 75 регуляторов в развивающихся лишь 58 ИИ помогает автоматизировать рутинные проверки и консолидацию отчетных данных выявлять закономерности и аномалии ускользающие от традиционного анализа и даже прогнозировать риски ликвидности и финансовые стрессы отмечают авторы исследования По их словам такие инструменты позволяют освободить сотрудников от рутинных задач и сосредоточиться на реализации надзорного суждения главной функции регуляторов Но вместе с ростом эффективности появляются новые угрозы МВФ предупреждает что искусственный интеллект может превратиться в черный ящик чьи решения невозможно объяснить или воспроизвести Алгоритмы обученные на неравномерных данных способны вносить предвзятость систематически и несправедливо дискриминируя отдельных лиц или группы лиц Даже методы объяснимого ИИ такие как LIME и Shapley не гарантируют понимания логики модели особенно в случае глубоких нейросетей К этому также добавляются риски кибербезопасности и устаревания алгоритмов МВФ рекомендует странам выстраивать собственные системы AI governance внутренние рамки контроля с этическими комитетами процедурами валидации и обязательным участием человека в принятии решений МВФ Искусственный интеллект Цифровые технологии centralasianow Подписаться на канал

Пока в стране еще толком не успел развиться искусственный интеллект в темных подвалах Минцифры уже запилили проект концепции развития регулирования ИИ Подход судя по научной фантастике оправданный надо его проклятого сразу за рога брать пока еще голову поднять не успел Документ пока показывают экспертам из отраслей в которых потенциально намечается широкое использование ИИ потом его начнут показывать другим государственным министерствам и ведомствам Предполагается что в основу регулирования сферы лягут человекоориентированный подход доверенность технологий принцип технологического суверенитета Айтишник Подписаться

Директор распорядитель Международного валютного фонда МВФ Кристалина Георгиева в понедельник предупредила о недостаточном регулировании технологий искусственного интеллекта ИИ в мире Мир отстает в вопросе ред регулирования заявила она в своем выступлении на ежегодных встречах руководящих органов МВФ и Всемирного банка в Вашингтоне оценивая риски внедрения технологий ИИ По оценкам Георгиевой в мире в настоящее время наблюдается прогресс в вопросе развития технологий компетенций и инноваций Однако нормативно этическая база для ИИ для нашего будущего еще не сформирована заключила глава фонда