Минцифры инициирует тестирование ИИ в региональных системах для повышения безопасности

Минцифры отнесло к зоне риска большинство региональных систем с ИИ Российские регионы активно внедряют системы с использованием технологий искусственного интеллекта, но большинство из них не используют доверенные технологии, поэтому находятся в зоне риска, сообщил на форуме по инфобезопасности в Тюмени замглавы Минцифры Александр Шойтов."У нас в стране где-то порядка 500 региональных информационных систем, где есть искусственный интеллект.

Минцифры отнесло к зоне риска большинство региональных систем с ИИ 23 апреля. INTERFAX.RU - Российские регионы активно внедряют системы с использованием технологий искусственного интеллекта, но большинство из них не используют доверенные технологии, поэтому находятся в зоне риска, сообщил на форуме по инфобезопасности в Тюмени замглавы Минцифры Александр Шойтов. "У нас в стране где-то порядка 500 региональных информационных систем, где есть искусственный интеллект. Построены они в разное время и разными разработчиками. По имеющейся у нас информации, в большинстве случаев никаких доверенных технологий информационной безопасности не применялось. Потенциально эти системы могут нести риск, в том числе существенный", - считает он. Замминистра напомнил, что в Стратегии развития искусственного интеллекта есть требования по использованию технологий доверенного искусственного интеллекта. Сейчас Минцифры работает над заключением соглашений с тремя российскими регионами по тестированию их систем ИИ. "Мы специально выбрали три типа искусственного интеллекта. Будем проводить сначала просто его изучение, а потом планируем тестирование. И, исходя из этого тестирования, разработаем предложения по адекватным, не тяжелым мерам по информационной безопасности для технологий ИИ", - сказал Шойтов.

ИНТЕЛЛЕКТ – В МАССЫ Минцифры откроет эксперимент по внедрению искусственного интеллекта ИИ в региональные системы "Госуслуг". Тестирование начнут вместе с Консорциумом исследования безопасности ИИ-технологий. В итоге – составят перечень рисков, которыми массово грозя большие языковые модели LLM генеративного ИИ, и рекомендации по обеспечению информационной безопасности периметров информсистем. Консорциум, привлеченный к тестированию, создан при поддержке Минцифры еще в мае 2024-го. Его участники – АНО "Национальный технологический центр цифровой криптографии" НТЦ ЦК , Академия криптографии РФ и Институт системного программирования им. Иванникова РАН. ВАШУ ЦИФРУ! Дело важное и очень правильное. Особенно в плане защиты от постоянных галлюцинаций того самого генеративного ИИ

Минцифры проведет эксперимент по внедрению ИИ в региональные «Госуслуги» Тестирование будет проводиться совместно с Консорциумом исследования безопасности технологий ИИ. По его итогам будет сформулирован перечень рисков, связанных с внедрением ИИ, и рекомендаций по обеспечению информационной безопасности ИБ периметра информсистем. Об этом «Ведомостям» рассказал представитель Минцифры. Минцифры, по его словам, будет тестировать три типа ИИ: для распознавания изображения, голоса и текста. В эксперименте планируют принять участие три региона – Республика Татарстан, Новосибирская и Сахалинская области, уточнили представители Минцифры и консорциума. Системы с использованием ИИ создают ряд рисков в сфере ИБ, говорят эксперты. В первую очередь это риски, связанные с несанкционированным доступом. Также сохраняются риски утечек чувствительных данных, например запросов или уже полученной информации, что может быть использовано для последующих атак. Подпишитесь на «Ведомости»

Минцифры проверит, как ИИ справляется с «Госуслугами» в регионах. Эксперты изучат, где могут возникнуть угрозы, и подготовят рекомендации по безопасности.

Чат, который думает за тебя

Минцифры отнесло к зоне риска большинство региональных систем с ИИ Замглавы Минцифры Александр Шойтов заявил, что большинство региональных информационных систем с искусственным интеллектом ИИ в России не используют доверенные технологии защиты данных. «У нас в стране где-то порядка 500 региональных информационных систем, где есть искусственный интеллект. Построены они в разное время и разными разработчиками. По имеющейся у нас информации, в большинстве случаев никаких доверенных технологий информационной безопасности не применялось. Потенциально эти системы могут нести риск, в том числе существенный», – сообщил Шойтов на форуме по инфобезопасности в Тюмени. Сейчас Минцифры тестирует системы в трёх субъектах РФ, чтобы разработать меры защиты. Контекст: В 2024 году белые хакеры нашли 6000+ уязвимостей в госструктурах и бизнесе. Каждая пятая уязвимость в госсекторе — критически опасная. Число DDoS-атак на российские компании выросло на 53%, а самая долгая длилась 463+ часов. Источник #новости_цифровизации

Около 49% средних и крупных российских компаний не используют даже базовые средства киберзащиты — ни антивирусы, ни системы резервного копирования. В их числе фирмы с выручкой свыше 10 млрд рублей. По данным ИТ-компании «Обит», эти организации уязвимы перед атаками, включая вирусы-шифровальщики. В 2024 году Россия оказалась целью 7,3% всех DDoS-атак в мире. Халатность компаний облегчает работу киберпреступников. #it

Минцифры проведет эксперимент по внедрению ИИ в региональные аналоги "Госуслуг". После этого будет составлен список рисков, связанных с внедрением ИИ, и рекомендации по обеспечению информационной безопасности периметра информсистем. В эксперименте также примет участие Консорциум исследования безопасности технологий ИИ, созданный в мае 2024 года. В него входят такие организации, как АНО "Национальный технологический центр цифровой криптографии", Академия криптографии РФ и Институт системного программирования им. В. П. Иванникова РАН.

Минцифры намерено начать эксперимент по внедрению искусственного интеллекта ИИ в региональные аналоги «Госуслуг» Тестирование будет проводиться совместно с Консорциумом исследования безопасности технологий ИИ По его итогам будет сформулирован перечень рисков, связанных с внедрением ИИ, и рекомендаций по обеспечению информационной безопасности ИБ периметра информсистем Консорциум, привлеченный к тестированию, был создан при поддержке Минцифры в мае 2024 г. Участники – АНО «Национальный технологический центр цифровой криптографии» НТЦ ЦК , Академия криптографии РФ и Институт системного программирования им. В. П. Иванникова РАН, указано на его сайте Подписаться