Банк международных расчетов и Банк России обсуждают стандарты и доступ к данным для ИИ

Базель регулирование проблемы объяснимости искусственного интеллекта Банк международных расчетов BIS опубликовал рабочий доклад своего Института финансовой стабильности FSI Managing explanations how regulators can address AI explainability посвященный проблематике управления рисками при применении моделей искусственного интеллекта ИИ Авторы обращают внимание на разрыв в международных стандартах и их применении на национальном уровне Международные организации устанавливающие стандарты выпустили требования к управлению рисками моделей однако лишь немногие национальные финансовые регуляторы выпустили конкретные руководства и они как правило сосредоточены на моделях используемых в целях регулирования Многие из существующих руководств возможно разрабатывались без учета передовых моделей ИИ и не упоминают концепцию объяснимости моделей В докладе формулируется предположение что в конечном счете решением проблемы может стать компромисс между объяснимостью и эффективностью моделей при условии надлежащей оценки и эффективного управления рисками А регулирующие органы должны в том числе инвестировать в повышение квалификации персонала для эффективной оценки моделей ИИ

7 Заявление группы экспертов G7 об ИИ и кибербезопасности в финансовой системе 22 сентября Группа экспертов G7 по кибербезопасности Cyber Expert Group консультирующая министров финансов и руководителей центральных банков стран большой семерки представила заявление о взаимосвязи ИИ и кибербезопасности в финансовой системе В документе подчеркивается что ИИ стал последним в ряду технологических инноваций способных преобразовать финансовый сектор ИИ широко используется для аналитики управления рисками и операционной деятельности придавая этим процессам новые масштабы и уровень сложности В то же время растет и его значение как потенциального источника угроз особенно из за использования генеративных и агентных моделей Отмечается что технологии ИИ открывают значительные возможности для повышения киберустойчивости финансовых организаций анализ больших массивов данных и выявление аномалий предотвращение мошенничества и распознование дипфейков прогнозирование уязвимостей и ускоренное внедрение заплат оптимизация работы центров мониторинга и реагирования на инциденты Те же технологии могут быть использованы и во вред усиливая киберугрозы создание персонализированных фишинговых атак и дипфейков автоматизация поиска эксплойтов и уязвимостей разработка самоадаптирующегося вредоносного ПО усложняющего защиту Особое внимание уделено уязвимостям присущим самим системам ИИ отравление данных влияющее на работу моделей утечки информации при использовании публичных инструментов манипуляции через атаки на системные промпты Эти факторы способны не только подорвать эффективность отдельных моделей но и затронуть целые цепочки поставок создавая дополнительные риски для сектора в целом Среди ключевых вызовов финансовой системы названы сбои и утечки данных недостаточный человеческий контроль непредсказуемое поведение плохо обученных моделей зависимость от сторонних поставщиков технологий дефицит специалистов и низкий уровень ИИ грамотности Документ направлен на повышение осведомленности участников рынка Группа экспертов также призывает финансовые институты регуляторов разработчиков технологий и академическое сообщество к совместной работе над формированием стратегий которые позволят использовать потенциал ИИ в интересах устойчивости одновременно снижая риски его злонамеренного применения ШколаМИБ новости ИИ G7 кибербезопасность ИИ FinTech

Банк России оценит возможность расширения доступа к данным для обучения ИИ Банк России планирует рассмотреть возможность реализации мероприятий направленных на повышение доступа разработчиков и потребителей к данным необходимым для обучения моделей искусственного интеллекта ИИ говорится в докладе регулятора Национальная цифровая инфраструктура финансового рынка Обеспечение удобных и безопасных механизмов обмена данными между государством бизнесом и гражданами для применения ИИ на финансовом рынке регулятор называет одним из перспективных направлений развития национальной цифровой инфраструктуры Учитывая что решения все чаще принимаются и на основе данных и на моделях ИИ качество самих данных становится ключевым фактором развития моделей ИИ на финансовом рынке а также влияет на уровень доверия к этой технологии сказано в докладе ЦБ помимо повышения качества данных отмечает важность разработки с участием регулятора комплексной архитектуры данных на финансовом рынке Банк России в июле разработал и направил в финансовые организации кодекс этики в сфере разработки и применения ИИ

ЦБ РФ оценит возможность внедрения мер по повышению доступа к данным для обучения ИИ ЦБ планирует рассмотреть возможность реализации мероприятий направленных на повышение доступа разработчиков и потребителей к данным необходимым для обучения моделей искусственного интеллекта ИИ говорится в докладе регулятора Национальная цифровая инфраструктура финансового рынка Обеспечение удобных и безопасных механизмов обмена данными между государством бизнесом и гражданами для применения ИИ на финансовом рынке регулятор называет одним из перспективных направлений развития национальной цифровой инфраструктуры в России