Минцифры запускает сертификацию ИИ для критической инфраструктуры

Минцифры обсуждает идею тестировать ИИ системы на безопасность на специальном полигоне Все ИИ системы при этом планируется разделить на четыре уровня риска минимальный ограниченный высокий и критический Системам последних двух уровней придется получать сертификат безопасности ФСТЭК и ФСБ и проходить проверку на безопасность для дальнейшего использования владельцами критических объектов к которым относятся сети связи и информационные системы госорганов энергетических транспортных и ряда других компаний Правда эксперты сомневаются что такая сертификация будет эффективной стандартные механизмы проверки софта на безопасность тут не сработают так как поведение искусственного интеллекта необъяснимо а ошибки непредсказуемы РБК в Telegram и MAX

ИИ для критической инфраструктуры будут сертифицировать Минцифры подготовило законопроект об обязательной сертификации систем искусственного интеллекта высокого и критического уровня риска для работы на КИИ Такие системы должны будут получить подтверждение соответствия требованиям безопасности ФСТЭК и ФСБ а проверки будут проводить на специальном полигоне создаваемом Минцифрой Для определения уровня риска и ведения реестра допущенных систем привлекут Национальный центр искусственного интеллекта в сфере госуправления при правительстве Отдельным документом позже установят требования для обязательной сертификации включая наличие ИИ в реестре российского или евразийского софта При этом запрещается использование систем которыми владеют иностранные компании СофтТех

Минцифры планирует создать специальный полигон для тестирования систем ИИ высокого и критического уровня риска на соответствие требованиям безопасности Проверки будут проводиться для допуска таких решений к использованию на объектах критической информационной инфраструктуры включая энергетику транспорт связь финансы и государственные информационные системы Согласно законопроекту правительства ИИ системы высокого и критического уровня должны будут проходить сертификацию ФСТЭК и ФСБ Тестирование предполагается проводить на площадке созданной Минцифры Уровень критичности будет определять Национальный центр ИИ в сфере госуправления который также станет вести реестр допущенных систем Документ вводит четыре уровня риска ИИ от минимального до критического Для наиболее опасных решений предусмотрен запрет на использование По мнению экспертов традиционные методы проверки не позволяют гарантировать безопасность таких систем и могут замедлить цифровизацию и развитие отрасли 𝔼ℂ𝕆ℕ𝕆𝕄𝕀𝕂𝔸