OpenAI блокирует аккаунты китайских пользователей за злоупотребление ChatGPT

OpenAI заблокировала аккаунты группы китайских пользователей, использовавших ChatGPT для кодинга Корпорация заблокировала аккаунты группы разработчиков из Китая, которые создавали инструменты мониторинга социальных сетей, с целью выявления антикитайских настроений. Как сообщает OpenAI — группа работала по временному графику, соответствующему рабочим часам материкового Китая, а общение с ChatGPT происходило на китайском языке. Группа была особенно заинтересована в обнаружении призывов к протестам против нарушений прав человека в Китае с намерением поделиться этой информацией с властями страны. ================ News Soft Gear Links

Компания OpenAI, создатель популярного чат-бота ChatGPT, сообщила в пятницу о блокировке аккаунтов пользователей из Китая и Северной Кореи. По мнению разработчиков, эти пользователи применяли технологии искусственного интеллекта в злонамеренных целях, включая слежку и операции по влиянию на общественное мнение. В своём отчёте OpenAI подчеркнула, что подобная деятельность может быть способом, которым авторитарные режимы пытаются использовать искусственный интеллект против США, а также против собственного населения. Компания отметила, что для выявления таких операций были задействованы специальные инструменты на базе ИИ. OpenAI не раскрывает подробностей о конкретных случаях злоупотреблений или о том, как именно были выявлены подозрительные аккаунты.

OpenAI блокирует аккаунты пользователей из Китая и Северной Кореи Компания считает, что ее технологию используют для противоправных действий, включая незаконное наблюдение и попытки воздействия на общественное мнение. «С помощью этих действий авторитарные режимы могут попытаться использовать ИИ против США и против своего собственного народа». Пользователи заставили ChatGPT генерировать новостные статьи на испанском языке, которые очерняли Соединенные Штаты и публиковались ведущими новостными изданиями Латинской Америки под авторством китайской компании. В другом случае злоумышленники, предположительно связанные с Северной Кореей, использовали ИИ для создания резюме и онлайн-профилей для вымышленных соискателей с целью мошеннического трудоустройства в западных компаниях. Не обошлось и без финансового мошенничества. В Камбодже злоумышленники использовал чат-бота для перевода и создания комментариев в социальных сетях и на коммуникационных платформах, включая X и Facebook . Компания Meta Platforms признана в России экстремистской организацией и запрещена.

Школы ОАЭ ограничивают использование нейросетей Несколько государственных и частных школ в ОАЭ приняли меры по ограничению использования чат-ботов на основе искусственного интеллекта, включая ChatGPT. Эта мера, направленная на сохранение академической честности, подталкивает учащихся к самостоятельному мышлению, поощряет здоровую конкуренцию и предотвращает ненадлежащее использование инструментов ИИ при выполнении заданий. Поскольку чат-боты на основе ИИ становятся все более распространенными, преподаватели обеспокоены тем, что чрезмерная зависимость учащихся от технологий может помешать развитию таких важных навыков, как самостоятельное решение проблем, критическое мышление и креативность. Эксперты в области образования утверждают, что, хотя ИИ имеет потенциальные преимущества, его чрезмерное использование в академических условиях может снизить успеваемость учащихся и их способность мыслить самостоятельно. В ответ на это учреждения активизировали усилия по повышению осведомленности среди студентов и провели семинары для информирования учащихся средних и старших классов о вреде использования чат-ботов для выполнения академических заданий. Учителя стали чаще проводить устные экзамены и задавать студентам исследовательские проекты и эссе, которые не получится выполнить с помощью сторонних инструментов. Еще один эксперт считает, что «система образования должна ставить перед собой цель научить учеников думать, а не просто извлекать информацию из источников, созданных ИИ, без ее анализа». Кроме того, такие инструменты могут легко ввести в заблуждение неточной или неполной информацией.

OpenAI заблокировала аккаунты из Китая и Северной Кореи по подозрению во вредоносной деятельности Компания удалила аккаунты пользователей из Китая и Северной Кореи, подозреваемых в использовании технологий компании для слежки и влияния на общественное мнение. В заявлении OpenAI указано, что авторитарные режимы могут применять ИИ во вред США и собственным гражданам. Для выявления подозрительной активности использовался специальный ИИ-алгоритм. В одном случае пользователь генерировал статьи на испанском языке, очерняющие США, которые публиковались в Латинской Америке от имени китайской компании. В другом — злоумышленники из Северной Кореи создавали фальшивые резюме для трудоустройства в западные компании. Также обнаружена группа аккаунтов из Камбоджи, связанных с финансовым мошенничеством. Мы из будущего

Подарок, который растёт в цене! Криптосертификат BTC Card на 23 февраля

Согласно информации из ряда источников правда, пропагандистского характера , в институте исследований искусственного интеллекта Университета Ким Ир Сена ведутся работы по изучению американского генеративного искусственного интеллекта ChatGPT. Их целью является обучение способам понимания, обретение передовых технологий и их адаптация для использования внутри страны. На этом фоне компания Open AI заявила о выявлении и удалении учётных записей, которые использовали её модель ИИ ChatGPT во вредоносных целях. В частности, утверждается, что аккаунты, предположительно аффилированные со структурами КНДР, использовали технологии ИИ для создания фальшивых резюме и онлайн-профилей с целью последующего получения работы в фирмах из США и Европы. Утверждается, что подобная схема применяется северокорейскими хакерскими группировками с целью хищения конфиденциальной и закрытой информации или цифровых финансовых средств. Кроме того, объявлено и об удалении профилей, связанных с Китаем, которые использовали ChatGPT для наблюдения и манипулирования общественным мнением посредством написания критикующих политику США статей и материалов, размещения соответствующего рода комментариев в крупных международных социальных сетях, сбора информации об антикитайских постах в соцсетях. #Новости #Корея #Политика #КНДР #Китай #Технологии #ИИ #ChatGPT #Сеть #Интернет #Прогресс

OpenAI провела зачистку ChatGPT от аккаунтов из Китая и Северной Кореи, подозреваемых во вредоносной деятельности OpenAI провела масштабную операцию по блокировке аккаунтов, связанных с Китаем, Северной Кореей и другими странами. Причина? Подозрения в использовании ChatGPT для вредоносной деятельности. Согласно заявлению компании, авторитарные режимы могли применять ИИ-технологии для слежки, влияния на общественное мнение и даже финансового мошенничества. Например: Пользователи из Китая генерировали новостные статьи на испанском языке, чтобы очернить США. Эти материалы публиковались в латиноамериканских СМИ. Группа, связанная с Северной Кореей, создавала фиктивные резюме для проникновения в западные компании. Аккаунты из Камбоджи использовались для перевода и публикации подозрительных комментариев в соцсетях, включая X и Facebook. Для выявления подозрительной активности OpenAI задействовала специальный ИИ-алгоритм. Однако компания не раскрыла точное количество заблокированных аккаунтов и сроки проведения операции. Правительство США уже выразило обеспокоенность тем, что Китай может использовать ИИ для контроля над общественным мнением и распространения дезинформации. На фоне этих событий OpenAI продолжает укреплять свои позиции: ChatGPT остаётся самым популярным ИИ-ботом с 400 млн активных пользователей в неделю, а компания ведёт переговоры о привлечении инвестиций в $40 млрд.

Как сервисы ген-ИИ уже сейчас используют для PSYOP и для OSINT или правильнее это называть AIINT? OpenAI заблокировала ряд аккаунтов, использовавших ChatGPT для создания потенциально вредоносного инструмента слежки на базе ИИ. Анализ показал, что заблокированные аккаунты применяли возможности ChatGPT для генерации детализированных описаний и анализа документов, способствуя созданию системы, собирающей в реальном времени данные о протестах против Китая на Западе. Затем информация передавалась китайским властям. Кампания получила кодовое название Peer Review из-за систематического продвижения и тестирования технологий слежки. По данным исследователей, этот инструмент, ориентированный на мониторинг социальных сетей, вероятно, был разработан в Китае и использовал для работы одну из моделей Meta Llama. В рамках расследования OpenAI выявила использование ChatGPT для отладки и модификации исходного кода системы, известной как «Qianyue Overseas Public Opinion AI Assistant». Этот инструмент анализировал публикации и комментарии на таких платформах, как X , Facebook, Instagram, YouTube, Telegram и Reddit, отслеживая упоминания протестных движений и другие чувствительные темы.