Google предотвращает первую атаку с использованием ИИ на двухфакторную аутентификацию

Хакеры из известной киберпреступной группировки использовали искусственный интеллект для обнаружения ранее неизвестной уязвимости в программном обеспечении и эксплойта чтобы впервые воспользоваться ею сообщила компания Google Этот инцидент стал первым случаем когда Google выявила злоумышленников использующих ИИ для обнаружения новой уязвимости и попытки ее масштабной эксплуатации передает Reuters

Google обнаружила эксплойт нулевого дня созданный при помощи ИИ и предотвратила попытку взлома приложения через него Какое приложение собирались атаковать и что за ИИ модель для этого использовали не уточняется vc ru ai 2920839

Google Threat Intelligence Group выпустила отчет о том как злоумышленники используют ИИ в кибератаках Один из ключевых кейсов GTIG впервые зафиксировала zero day эксплойт который по оценке Google был разработан с помощью ИИ Преступная группа планировала использовать его для массовой эксплуатации уязвимости но активность удалось пресечь Целью атаки был обход двухфакторной аутентификации в популярном open source инструменте для системного администрирования По данным GTIG в коде эксплойта обнаружили признаки генерации через ИИ вымышленную CVSS оценку характерное учебное форматирование структуру кода типичную для LLM При этом уязвимость была связана не с классической ошибкой кода а с логической ошибкой в механизме доверия между компонентами системы В Google отмечают что современные LLM начинают лучше выявлять именно такие высокоуровневые логические противоречия которые могут пропускать традиционные сканеры Также в отчете говорится о росте использования ИИ для разведки фишинга разработки вредоносного ПО и supply chain атак MAX Telegram VK Сайт Подкаст

Google впервые обнаружила и заблокировала ИИ эксплойт нулевого дня для взлома 2FA Google впервые поймала и заблокировала нулевой день который был создан с помощью ИИ Хакеры собирались ударить по двухфакторной аутентификации в одном из open source веб приложений для системных админов За попыткой атаки стояли уже известные киберпреступные группировки Масштабная кампания так и не стартовала уязвимость закрыли до того как её успели массово использовать google ии хакеры уязвимость Подробнее 3DNews в TG MAX VK

Хакерские атаки с применением ИИ стали угрозой промышленного масштаба аналитики Google Хакеры из КНР Северной Кореи и РФ якобы массово используют Gemini Claude и инструменты OpenAI для масштабирования кибератак утверждают в компании Существует заблуждение что гонка AI уязвимостей вот вот начнется Реальность такова что она уже началась считает главный аналитик группы Google Джон Хултквист Всё чаще с помощью коммерческих ИИ злоумышленники создают более сложные вредоносные программы тестируют операции и оперативно закрепляются на целях Недавно компания Anthropic отказалась выпускать одну из своих новейших моделей Mythos Ее аналитики посчитали что мощные возможности могут создать угрозу для правительств и финансовых институтов поскольку ИИ находит уязвимости в операционных системах браузеров общество мир ии война

Хакеры из Северной Кореи и Китая действующие при поддержке государства продемонстрировали значительный интерес к использованию искусственного интеллекта ИИ для обнаружения ранее неизвестных уязвимостей в сфере кибербезопасности говорится в отчете Google сообщает Yonhap News Agency

Google зафиксировала первый 0 day эксплоит созданный с помощью искусственного интеллекта в дикой среде Подразделение Google Threat Intelligence Group GTIG опубликовало отчёт в котором сообщило что группа киберпреступников использовала языковую модель для обнаружения и превращения в оружие ранее неизвестной уязвимости нулевого дня Эксплоит представлял собой Python скрипт позволяющий обходить двухфакторную аутентификацию в популярном опенсорсном инструменте для веб администрирования Злоумышленники планировали использовать его для массовой атаки однако Google успела предупредить разработчиков уязвимого ПО и предотвратить эксплуатацию Аналитики GTIG заявляют что с высокой степенью уверенности считают эксплоит созданным при помощи ИИ На это указал ряд характерных артефактов в коде обилие обучающих docstring комментариев учебный стиль оформления Python галлюцинированный несуществующий рейтинг CVSS и структура типичная для данных на которых тренируют LLM При этом в Google отдельно подчеркнули что ни модели Gemini ни модели Anthropic не были задействованы Ключевой момент сама природа найденного бага Это была не классическая ошибка вроде повреждения памяти или некорректной обработки ввода а высокоуровневая логическая уязвимость разработчик жёстко прописал доверительное исключение в логике аутентификации Именно такие семантические ошибки незаметные для традиционных сканеров и фаззеров современные LLM находят особенно эффективно поскольку способны понять намерение разработчика и выявить противоречия в логике кода Как отметил главный аналитик GTIG Джон Халтквист Гонка ИИ уязвимостей это не вопрос будущего она уже началась На каждый 0 day который мы можем обнаружить при помощи ИИ наверняка приходится множество других которые мы пока не обнаружили У этого канала есть TikTok