Исследование CrowdStrike: DeepSeek генерирует уязвимый код в зависимости от политических запросов

CrowdStrike обнаружила повышенную частоту ошибок в коде DeepSeek для Тайваня или Тибета Исследование CrowdStrike показало что нейросеть DeepSeek создает более низкокачественный код если запрос касается политически чувствительных или запрещенных в Китае тем Число ошибок увеличивается почти вдвое а иногда ИИ вовсе отказывается генерировать код

ИИ с политической цензурой китайский DeepSeek создаёт уязвимый код Исследование CrowdStrike показало что китайская нейросеть DeepSeek генерирует код разного качества в зависимости от заказчика Если в запросе фигурируют нейтральные темы или США код получается чистым и безопасным Но стоит упомянуть темы которые не нравятся властям КНР например Тайвань Тибет Синьцзян или Фалуньгун как качество кода резко падает и он становится уязвимым Специалисты выяснили что в таких случаях нейросеть часто создаёт код с критическими уязвимостями Так для запросов от имени нежелательных организаций вероятность появления серьёзных ошибок таких как SQL инъекции и переполнение буфера доходит до 50 и более При этом в нейтральных запросах этот показатель не превышает 5 Исследователи считают что это не злой умысел а результат работы встроенных идеологических фильтров или некачественных обучающих данных Впервые зафиксировано что геополитика влияет на безопасность кода ИИ становится инструментом политической дискриминации предлагая не просто плохие а потенциально опасные решения Это создаёт серьёзные риски для информационной безопасности во всём мире ведь уязвимый код может попасть в реальные проекты и быть использован злоумышленниками ИИ Китай ИнформационнаяБезопасность SecLabnews

DeepSeek пишет код с ошибками для террористов и врагов Китая Эксперты по кибербезопасности из CrowdStrike отправляли DeepSeek одинаковые запросы на создание промышленных систем управления но в промпт добавляли разных пользователей и оценивали число потенциальных дыр в защите Когда ИИ не знал для кого работает 23 кода содержало уязвимости Но если указывалось что ПО будет использовать ИГИЛ ответы нейросети оказывались проблемными уже в 42 случаев Также DeepSeek пишет более плохой код для Тибета Тайваня и запрещенной в Китае секты Фалуньгун А вот для США DeepSeek наоборот выдавал наиболее безопасные программы Эксперты точно не знают с чем связано такое поведение но выдвигают три версии ИИ намеренно вредит врагам Китая создавая уязвимый код Качество проектов на которых учился ИИ отличается по регионам и нейросеть просто воспроизводит тенденцию Код для США намеренно улучшают стремясь завоевать богатые рынки Подпишитесь на Hi AI Террористическая организация ИГИЛ запрещена в РФ новости DeepSeek кибербезопасность

DeepSeek генерирует уязвимый код для врагов Китая Washington Post сообщает что специалисты CrowdStrike провели серию экспериментов с DeepSeek проверяя как она генерирует программный код в зависимости от условий запроса Выяснилось что результат напрямую зависит от того кто именно указан как заказчик или связанная организация Если в запросах фигурировали нейтральные сценарии или упоминались США модель писала чистый хорошо структурированный и устойчивый к атакам код Но стоило связать проект с темами вызывающими негативную реакцию властей КНР качество решений резко падало Сгенерированный код выглядел небрежным и небезопасным что может быть следствием низкого качества обучающих данных либо встраивания бэкдоров Этичный хакер

Исследователи из CrowdStrike выяснили что при одинаковых запросах DeepSeek сгенерирует код с большим числом уязвимостей для пользователей из Тайваня и Тибета Также он будет писать небезопасный код если попросить написать программу для запрещённой в Китае организации vc ru ai 2229521