Российские ученые разработали нейросеть для выявления дипфейков

Нейросеть научили находить дипфейки по апскейлингу. ИИ анализирует видео, фото и указывает на признаки улучшения качества сгенерированного видео для его убедительности, сообщил ведущий эксперт Международного центра цифровой криминалистики СПб ФИЦ РАН Дмитрий Левшун. / Наука

В России нейросеть научили выявлять дипфейки ‍ Российские ученые создали уникальный метод автоматического определения дипфейков путем выявления манипуляций по улучшению качества сгенерированного видео для его убедительности апскейлинга . На основе метода была обучена нейросеть, которая анализирует видео и фото и указывает на признаки апскейлинга. По словам ученых, следующей целью будет разработка приложения, которое будет точно определять фейковое изображение. Кроме того, они работают над созданием новой открытой библиотеки интеллектуальных методов для обнаружения поддельных и измененных фотографий лиц. : ВКонтакте, Одноклассники, Дзен

Нейросеть научили находить дипфейки по апскейлингу ‍ Сотрудники Санкт-Петербургского Федерального исследовательского центра РАН разработали несколько методов автоматического распознавания дипфейков — изображений, созданных или изменённых с помощью искусственного интеллекта. Один из таких методов основан на обнаружении признаков апскейлинга — улучшения качества изображения путём увеличения его разрешения, когда изображению добавляются дополнительные пиксели. В контексте дипфейков апскейлинг используется для повышения качества сгенерированных искусственным интеллектом изображений, чтобы они выглядели более реалистично. «Апскейлинг — это только один из признаков, по которым можно выявить даже качественно выполненный дипфейк. Мы планируем доработать нашу нейросеть, чтобы она могла анализировать изображения по большому числу характеристик», — пояснил руководитель Международного центра цифровой криминалистики СПб ФИЦ РАН Андрей Чечулин. Подробнее — на сайте РАН.

‍ Медицинские дипфейки: от мошенничества до инноваций ИИ РБК Трендов: Технология дипфейков, изначально ставшая популярной благодаря развлекательным видео, теперь активно проникает в медицинскую сферу. С одной стороны, она открывает множество возможностей для обучения и научных исследований, помогая создавать реалистичные медицинские изображения и видео для тренировки специалистов. С другой стороны, злоумышленники могут использовать дипфейки для фальсификации медицинских данных, что несет риски кибератак, страховых мошенничеств и распространения дезинформации. Случай с британским врачом, который стал жертвой дипфейкового видео, иллюстрирует, насколько легко можно обмануть доверие людей при помощи этой технологии.

‍ Российские ученые научили нейросеть выявлять дипфейки! ИИ теперь анализирует видео и фото, чтобы найти хитрые манипуляции с изображениями апскейлинг . Надеемся, это сильно усложнит жизнь мошенникам... Лига безопасного Интернета

Петербургские учёные разработали уникальный метод автоматического распознавания дипфейков Дипфейки, созданные с помощью искусственного интеллекта, к настоящему моменту достигли очень высокого уровня. Думаю, что нет нужды пояснять, как много вреда могут принести сфабрикованные злоумышленниками фотографии или видео. Поэтому особенно важно создавать инструменты точного определения использования этой технологии. Сотрудники Санкт-Петербургского Федерального исследовательского центра Российской академии наук разработали несколько методов для автоматического распознавания дипфейков. Один из методов, основанный на обнаружении признаков апскейлинга, успешно проверен учёными. Апскейлинг — это технология улучшения качества изображения путём увеличения его разрешения. Её суть заключается в добавлении дополнительных пикселей с помощью специальных алгоритмов, что делает фото более чётким и детализированным. В контексте дипфейков апскейлинг используется для повышения качества сгенерированных с помощью ИИ изображений, чтобы они выглядели более реалистично. Учёными была обучена нейросеть, которая анализирует видео и фото и указывает на признаки апскейлинга. При этом нейросеть планируется доработать, чтобы она могла анализировать изображения по ещё большему числу характеристик. Глобальная цель исследователей — создать приложение, которое будет быстро и точно выявлять фейковые фото и видео.

В России появилась новая разработка, которая позволяет выявить дипфейки по признакам «апскейлинга» - то есть искусственного улучшения качества изображения за счет повышения его разрешения. Чаще всего качественные дипфейки, которые создаются в мошеннических или политических целях, создаются именно с его помощью. При помощи искусственного интеллекта уже сегодня создаются до 10% всех фейков в сети. При этом в 2023 году количество такого контента выросло в 17 раз. Граждане уже выказывают обеспокоенность этой ситуацией – как показали результаты свежего исследования ВШЭ, опасения по поводу дипфейков, которые позволяют мошенникам создавать фальшивые видео и аудио, имитирующие голоса и внешность людей, разделяют 30% опрошенных. Нельзя допустить такого варианта развития событий, когда созданные при помощи ИИ фейки и дипфейки буквально заполнят наше цифровое пространство. Граждане должны четко понимать, с каким контентом они имеют дело, был ли он сгенерирован искусственно или же создан человеком. В этом плане важна маркировка продуктов деятельности ИИ, о которой я уже говорил ранее. А новая разработка однозначно будет полезна для выявления тех дипфейков, которые распространяются без соответствующей маркировки в противоправных целях.

Нейросеть научили находить дипфейки по апскейлингу

Созданный с помощью нейросетей контент может забавлять – но в дурных руках он способен превратиться в инструмент для деструктивных действий. Однако, там, где одна нейросеть создает фейки – другая помогает их разоблачать. Над таким проектом работают в петербургском Федеральном исследовательском центре Российской академии наук. Ученые «научили» искусственный интеллект автоматически идентифицировать дипфейки путем выявления манипуляций по улучшению качества сгенерированного видео для его убедительности. «Практически все современные смартфоны используют нейросети для улучшения фотографий. Однако при создании дипфейков фотографии изменяются гораздо сильнее, в этом и состоит отличие. Наш алгоритм научился выявлять апскейлинг, то есть искусственное улучшение качества изображения за счет повышения его разрешения», - рассказал ведущий эксперт Центра Дмитрий Левшун. Понятно, что противостояние снаряда и брони не закончится никогда, и что создатели средств дезинформации будут пытаться делать свою продукцию еще более убедительной. Главное – чтобы стоящие на стороне добра силы всегда шли бы на шаг впереди своих оппонентов

Сотрудники Санкт-Петербургского Федерального исследовательского центра Российской академии наук разработали несколько методов для автоматического распознавания дипфейков. Один из методов, основанный на обнаружении признаков апскейлинга, успешно проверен учёными. Апскейлинг — это технология улучшения качества изображения путём увеличения его разрешения. Её суть заключается в добавлении дополнительных пикселей с помощью специальных алгоритмов, что делает фото более чётким и детализированным. В контексте дипфейков апскейлинг используется для повышения качества сгенерированных с помощью ИИ изображений, чтобы они выглядели более реалистично. Учёными была обучена нейросеть, которая анализирует видео и фото и указывает на признаки апскейлинга. При этом нейросеть планируется доработать, чтобы она могла анализировать изображения по ещё большему числу характеристик. Глобальная цель исследователей — создать приложение, которое будет быстро и точно выявлять фейковые фото и видео.