В России созданы 'водяные знаки' для защиты ИИ-моделей от кражи

Научная группа «Доверенные и безопасные интеллектуальные системы» Института искусственного интеллекта AIRI при участии коллег из Сколтеха и ИСП РАН разработала метод выявления краж моделей искусственного интеллекта, доступ к которым предоставляется через API. Протокол основан на создании триггерного набора данных, системы «водяных знаков», которые позволяют доказать, что модель была скомпрометирована. Кражей модели называется ситуация, когда неавторизованные физические или юридические лица незаконно получают и используют модели ИИ, права на которые принадлежат другим лицам, без согласия их создателей. На способ выявления краж подана патентная заявка, а код уже прошел государственную регистрацию и выложен в открытый доступ. — Техномаркетинг

Учёные Сколтеха, Института AIRI и ИСП РАН разработали метод выявления краж моделей искусственного интеллекта, доступ к которым предоставляется через API — созданные командой «водяные знаки» позволяют доказать, что модель была скомпрометирована Проведённые опыты показали, что новый метод позволяет выявлять случаи неправомерного заимствования модели в 73-100% случаев. При этом он значительно превосходит существующие методики использования цифровых «водяных знаков». Российские исследователи надеются, что созданный ими подход позволит разработчикам закрытых и открытых систем ИИ эффективнее защищать свои проекты от кражи, для чего выложили разработку в открытый доступ. Научная статья с описанием подхода принята на одну из наиболее престижных научных конференций в сфере искусственного интеллекта IJCAI A . Доступ к алгоритму маркирования можно получить здесь.