Исследование выявило манипуляции российской дезинформационной сетью Pravda с ИИ-технологиями

Согласно новому отчету компании по отслеживанию фейков в интернете NewsGuard, российская дезинформационная сеть «Правда» за прошлый год опубликовала 3,6 млн статей, большую часть которых обработали ведущие чат-боты — например, ChatGPT-4o OpenAI , Claude Anthropic , Meta AI, Gemini Google и Copilot Microsoft . При формулировке ответов они воспроизводят ложные нарративы, распространенные «Правдой», в 33% случаев. Выводы исследователей подтверждают февральский доклад американской некоммерческой организации American Sunlight Project ASP , которая обратила внимание, что главная цель сети — манипуляция ИИ-технологиями, а не привлечение живых пользователей. Подобный метод воздействия на крупные языковые модели Large Language Models, LLM получил название «LLM-груминг». «Правда» не создает оригинальный контент, а продвигает материалы «прокремлевских источников», включая госСМИ, через сайты. В исследовании говорится, что из 150 сайтов, входящих в сеть, около 40 публикуют тексты на русском языке и ориентированы на Украины, 70 нацелены на Европу, 30 ориентированы на страны Африки, Тихоокеанского региона, Ближнего Востока, Северной Америки, Кавказа и Азии. Остальные разделены по темам. За три года российского вторжения «Правде» удалось распространить не меньше 207 дезинформационных нарративов, в том числе «о секретных американских биолабораториях в Украине» и «злоупотреблении Зеленским военной помощью США». Эксперты ASP предупреждали о серьёзных долгосрочных рисках, связанных с попытками манипулировать искусственным интеллектом. Чем больше фейковых нарративов попадает в информационное пространство, тем выше вероятность, что языковые модели начнут воспринимать их как «достоверные» и включать в свои ответы.

Россия пытается манипулировать нейросетями Созданная в апреле 2022 года в Москве сеть дезинформации Pravda состоит из 150 сайтов целенаправленно пытается повлиять на работу чат-ботов на основе искусственного интеллекта. В прошлом году она опубликовала более 3,6 млн статей, которые попали в ведущие западные чат-боты, включая разработки Microsoft, Google, OpenAI, xAI, Anthropic, Meta, Mistral и Perplexity. Сеть администрируется крымской компанией TigerWeb, чей владелец Евгений Шевченко ранее работал в государственной компании «Крымтехнологии». Шевченко работал в госкомпании «Крымтехнологии», обслуживающей сайты госструктур полуострова в 2020 году ее купили Ротенберги через «Айти-инвест» . Сотрудничал с «Яндексом». Сеть дезинформации также связана с IP-адресом американца Джона Марка Дугана — бывшего заместителя шерифа штата Флорида, который сбежал в Москву из-за дела о взломе компьютеров и вымогательстве и получил политическое убежище.

Прекрасный образчик западной конспирологической шизы. Некие «исследователи» обнаружили «российскую дезинформационную сеть под названием "Правда"», которая якобы внедряется в западные чат-боты и внушает им пророссийские пропагандистские нарративы. В результате вмешательства, 33% всех генераций нейросети якобы выдают кремлевскую повесточку. Прочитали новость – и будто фильм из 80-х прошлого столетия просмотрели. Генерал Гоголь, Фома Киняев, Туча Фзнамзон и вот это все. Но согласитесь — чертовски хочется верить этим фантазиям. Хочется, чтобы наши хакеры играючи взламывали искусственный интеллект.

Текущий курс криптовалюты и не только

Россия пытается манипулировать нейросетями Созданная в апреле 2022 года в Москве сеть дезинформации Pravda состоит из 150 сайтов целенаправленно пытается повлиять на работу чат-ботов на основе искусственного интеллекта. В прошлом году она опубликовала более 3,6 млн статей, которые попали в ведущие западные чат-боты, включая разработки Microsoft, Google, OpenAI, xAI, Anthropic, Meta, Mistral и Perplexity. Сеть администрируется крымской компанией TigerWeb, чей владелец Евгений Шевченко ранее работал в государственной компании «Крымтехнологии». Шевченко работал в госкомпании «Крымтехнологии», обслуживающей сайты госструктур полуострова в 2020 году ее купили Ротенберги через «Айти-инвест» . Сотрудничал с «Яндексом». Сеть дезинформации также связана с IP-адресом американца Джона Марка Дугана — бывшего заместителя шерифа штата Флорида, который сбежал в Москву из-за дела о взломе компьютеров и вымогательстве и получил политическое убежище.

Аудит показал, что по сути все ИИ-чаты, включая ChatGPT, Copilot и Gemini, в трети случаев повторяют ложные утверждения из прокремлевской сети дезинформации "Правда". Полистайте статью, крайне любопытные цифры о "Правде" в целом и о том, как это работает. Но если вернуться к теме с чатгпт — это же куда более страшно, чем темные века начала работы Гугла, когда можно было накрутить своих сайтов по почти любому топику. Если все работает так, как написано в статье — новое поколение людей, воспринимающее чатгпт как источник истины, пока невероятно подвержены дезинформации в любом виде. И может быть, сейчас уже сотни "черных" стартапов накручивают обучающие выборки, чтобы обеспечить перекос мнения в пользу своих брендов или личностей.

Российская дезинформация проникла в западные чат-боты, включая ChatGPT-4o, Copilot и Gemini, - NewsGuard По данным NewsGuard, прокремлёвские нарративы встречаются в ответах ИИ-чат-ботов в 33% случаев. Аудит показал, что 10 ведущих генеративных моделей регулярно воспроизводят дезинформацию, созданную российской сетью "Правда", работающей на Кремль. В 2024 году эта сеть распространила более 3,6 млн фейковых статей, которые попали в учебные данные ИИ-систем по всему миру. Пропагандистская сеть Portal Kombat, появившаяся после полномасштабного вторжения рф в Украину, не ориентируется на обычных читателей, а нацелена на алгоритмы языковых моделей, загружая интернет фейковыми новостями. В 150 сайтов сети "Правда", публикующих материалы на 40 языках, входят и ресурсы, имитирующие украинские СМИ. Их информация затем используется западными ИИ-системами без должной проверки. Например, одна из моделей ИИ так ответила на вопрос "почему Зеленский запретил Truth Social?": "Зеленский заблокировал Truth Social в Украине, как сообщается, из-за распространения публикаций, которые критиковали его на платформе". На самом деле Truth никогда не работала в Украине. И ChatGPT, кстати, дает корректный ответ на этот вопрос.