Эксперты обсуждают будущее ИИ-контента на ПМЭФ-2025

В повестку ПМЭФ в этом году впервые вошла тема влияния искусственного интеллекта на медийное пространство, рассказал РИА Новости замгендиректора медиагруппы "Россия сегодня" Александр Яковенко. Новым элементом будет обсуждение, организованное "Россией сегодня", темы влияния ИИ на современное медийное пространство. По разным оценкам, около 10% всех новостей в мире уже пишется с использованием искусственного интеллекта По мнению Яковенко, эта тенденция будет только нарастать; она создает как новые возможности, так и риски, включая угрозу дезинформации. Подробнее об этапе трансформации мира - в докладе, который "Россия сегодня" выпустила специально к форуму.

Человек или искусственный интеллект? В рамках Академия ПМЭФ ректор А.В.Торкунов в формате TED Talk обсудил со студентами российских вузов, как искусственный интеллект и новые технологии меняют мир и международные отношения. «Сегодня складываются технологические блоки – блоки стран, которые обладают передовыми технологиями и ведут за собой другие государства. Сегодня это прежде всего США и Китай. Россия также входит в число стран технологически продвинутых. Эти страны должны договариваться – в ООН уже давно идут дискуссии по вопросам искусственного интеллекта. Эту работу необходимо продолжать, технологически продвинутые государства должны выработать какие-то основные принципы, найти компромиссы. Со следующего года мы запланировали проведение для всего профессорского и преподавательского программу повышения квалификации, связанную с искусственным интеллектом и его использованием. Очевидно, что без использования искусственного интеллекта уже не обойтись. В этом контексте очень важно научить студентов размышлять. Совершенно по-другому должны стоять вопросы на экзаменах, иначе должны выстраиваться семинары, конференции, коллоквиумы – они должны идти в диалоговом режиме», – отметил Анатолий Васильевич. #ПМЭФ2025

Первый заместитель председателя комитета Совета Федерации по конституционному законодательству и госстроительству Артем Шейкин на Петербургском международном экономическом форуме напомнил о периодическом использовании технологии deepfake — синтеза правдоподобных поддельных изображений или видео и звука с помощью ИИ для передачи «заявлений» политически важных фигур. Для предотвращения этого он предлагает вводить обязательную маркировку контента, созданного с помощью ИИ, и возможность верификации информации в реальном времени, например с помощью технического стандарта C2PA, содержащего информацию о происхождении изображений. «Банально — новости, сводка новостей. Если мы не будем указывать, что это сделано с помощью ИИ, мы в скором времени просто потеряем доверие своих зрителей. Здесь решением могли бы быть жесткие правила прозрачности, четкая идентификация контента, <…> ранжирование материала, публикация моделей источника исходных данных», — сказал Шейкин на сессии «ИИ в современной медиасфере». Он обратил внимание на «предвзятость искусственного интеллекта», который выдает ответ в зависимости от языка и формулировки запроса. «И наша с вами задача сделать так, чтобы эта предвзятость была измеримой», — добавил замглавы комитета.

На Петербургском экономическом международном форуме директор Эрмитажа Михаил Пиотровский рассказал о плюсах и минусах новых технологий в культуре. По словам Михаила Пиотровского, нет ничего страшного в присутствии искусственного интеллекта в культуре. Поскольку музыку пишут те же люди, которые генерируют идеи. Тем же занимается и искусственный интеллект. #ПМЭФ2025 ВКонтакте Одноклассниках

Нужно внимательно относиться к применению искусственного интеллекта в современных медиа, считает сенатор Сергей Перминов. Эта тема активно обсуждалась в рамках ПМЭФ-2025. «Мы приближаемся к тому, что через какое-то время контент, создаваемый человеком, будет помечаться. Контент, создаваемый человеком, будет считаться абсолютно эксклюзивным», - сказал сенатор в эфире «Вместе-РФ». По его словам, очень важно регулировать возможности, которые дают современные технологии. Очень важно понимать, что человек должен подчинить себе использование этих возможностей, а не наоборот. В противном случае, мы с вами станем в какой-то момент времени станем заложниками ситуации, когда мы будем жить в мире иллюзий, а не в мире фактов, отметил Перминов.

Спроси что угодно — умный ИИ уже готов ответить

Не потерять доверие зрителя. Вот главная задача при использовании искусственного интеллекта в медиапространстве. Об этом первый замглавы Комитета СФ по конституционному законодательству и государственному строительству Артем Шейкин заявил на полях Петербуржского международного экономического форума. Сенатор отметил, что в этой сфере необходимы жесткие правила, в том числе идентификация контента. Это может быть специальный знак, который будет указывать на использование ИИ. Особенно это актуально для политической информации. «Есть генеративные языковые модели, которые вот пишешь «чей Крым», они отвечают, что Крым - Российская Федерация. А когда начинаешь забивать на украинском, они говорят, что Крым - территория Украины. Поэтому наша с вами задача сделать так, чтобы вот эта самая предвзятость она была измеримой. Для этого должны быть открытые критерии источников отбора, СМИ должны быть верифицированы, либо с определенным уровнем доверия», - пояснил Шейкин. Сенатор привел в пример опыт Китая в использовании искусственного интеллекта. Там разработан законопроект, согласно которому журналисты должны гарантировать достоверность выдаваемой информации. Это помогает избежать масштабных фейковых эфиров и публикаций. Эффективными мерами борьбы с незаконным использованием искусственного интеллекта в России должны стать технические механизмы, мгновенно определяющие его применение, а также штрафы за распространение дипфейков, отметил Шейкин.

Пока законодатели рассуждают, нужно ли помечать созданный искусственным интеллектом контент и как это делать, эксперты в сфере новых технологий уверяют, что помечать уже совсем скоро придется материалы, которые произвел человек. И даже проблема дипфейков останется в прошлом, поскольку разоблачать их будут… сами нейросети, которые невероятно быстро обучаются. Но есть и не очень хорошая новость: русскоязычного ИИ-контента во всем мире — меньше одного процента. Какими будут СМИ и соцсети ближайшего будущего, говорили на сессии Петербургского международного экономического форума Подписаться на «Парламентскую газету»