В России представлена первая система защиты ИИ от кибератак

В России появилась первая система мониторинга и защиты ИИ от кибератак. Разработка совместима с любыми ИИ-моделями, что позволяет компаниям гибко настраивать правила безопасности под собственные требования.

Российские учёные создали первую систему защиты веб-приложений с ИИ от кибератак. Разработка защищает от 7 наиболее опасных уязвимостей, включая промт-инъекции, утечки конфиденциальной информации и некорректную обработку данных, и работает с любыми популярными ИИ-моделями, как открытыми, так и закрытыми. Разработчики отмечают, что зарубежные аналоги не адаптированы под российский рынок и русский язык. А по мере роста внедрения ИИ в бизнес-процессы потребность в таких защитных решениях будет только увеличиваться.

Магистранты ИТМО совместно с Raft разработали первую в России защиту для ИИ от кибератак — систему HiveTrace. Она защищает от 7 главных уязвимостей и поддерживает любые ИИ-модели. Система борется с промт-инъекциями, утечками данных и т.д. Российские компании только начинают внедрять ИИ, и спрос на такие решения растет.

Исследователи ИТМО и ИТ-компании Raft разработали систему HiveTrace для защиты ИИ-моделей от кибератак Разработка совместима с открытыми или закрытыми моделями искусственного интеллекта. Система защищает от семи из десяти наиболее критичных уязвимостей. Среди них промпт-инъекции, утечки конфиденциальной информации и системных инструкций, некорректная обработка входных данных, чрезмерное использование LLM-агентов, уязвимости в обработке векторов и эмбеддингов, а также неограниченное потребление вычислительных ресурсов. Разработчики отмечают, что зарубежные аналоги широко представлены на рынке, однако они не приспособлены для российских условий и не поддерживают русский язык. Источник:

⏰ ИТМО представил первую российскую систему защиты ИИ от кибератак Система отражает 70% популярных уязвимостей и оберегает веб-приложения с генеративным ИИ от промпт-инъекций, утечек конфиденциальных данных, чрезмерного использования LLM-агентов и других видов атак. Магистранты ИТМО совместно с экспертами компании Raft создали HiveTrace — первую российскую систему защиты искусственного интеллекта от кибератак. Система совместима с любыми открытыми или закрытыми ИИ-моделями. Это позволит технологическим, финансовым, телекоммуникационным и другим компаниям внедрить HiveTrace в свои бизнес-процессы и гибко настроить правила безопасности под собственные требования. Подробнее…

В России представили первую систему киберзащиты для ИИ В Санкт-Петербурге создали первую в России систему мониторинга и защиты генеративных ИИ-моделей от кибератак. Продукт под названием HiveTrace разработали магистранты ИТМО совместно с экспертами компании Raft. Система способна предотвратить целый спектр угроз, которые могут нарушить работу ИИ-сервисов или привести к утечке данных, пишет ТАСС. HiveTrace интегрируется как с открытыми, так и с закрытыми ИИ-моделями, позволяя компаниям гибко настраивать политику безопасности под собственные задачи. Разработка уже умеет распознавать и блокировать наиболее критичные уязвимости, включая попытки внедрения вредоносных запросов и утечки системной информации. В дальнейшем функционал расширят, чтобы продукт мог противостоять новым типам угроз, возникающим по мере развития технологий. Создатели отмечают, что на фоне роста интереса к генеративному ИИ в бизнесе и госсекторе потребность в защите подобных решений становится всё более актуальной. HiveTrace стал ответом на дефицит доступных решений для отечественных компаний, заинтересованных в безопасной интеграции ИИ в свои процессы. Система уже прошла тестирование и получила высокую оценку от специалистов в области информационной безопасности. ______________________________________ Увидели интересную ситуацию на производстве или в логистике? Делитесь новостями, фото и видео с редакцией: #новости

Цель — защитить ИИ В России разработана первая в стране система защиты, которая способна отразить атаки хакеров на веб-приложения, которые построены на основе генеративного искусственного интеллекта. Разработку представили магистранты ИТМО. Об этом сообщила пресс-служба университета. #ИИ #разработка #кибербез

HiveTrace в ТАСС HiveTrace — первая в России система защиты ИИ от кибератак, разработанная инженерами AI Talent Hub х Raft — уже на радарах федеральных медиа! Проект вырос в AI Security Lab — лаборатории Хаба, где исследуют безопасность и этику генеративного ИИ. К слову, попасть туда можешь и ты. Читать в ТАСС Дадим ребятам #ДайджестПобед #AITalentHub #ITMO #Raft #NapoleonIT