Microsoft выявила уязвимости в биобезопасности с помощью ИИ

Команда Microsoft под руководством главного научного сотрудника Эрика Хорвица опубликовала в Science исследование о уязвимости нулевого дня в системах биобезопасности Используя генеративные AI модели для дизайна белков включая собственную EvoDiff они показали как можно изменить структуру токсина достаточно чтобы обойти screening коммерческих производителей ДНК но сохранить токсичность Эти системы сравнивают входящие заказы с базой известных токсинов и патогенов близкое совпадение должно вызывать тревогу Если что это та же технология на которой строятся хорошо финансируемые стартапы по поиску новых лекарств вроде Generate Biomedicines и Isomorphic Labs Microsoft особо выделяет исследование было полностью цифровым никаких реальных токсичных белков не производили чтобы избежать обвинений в разработке биооружия Код не раскрывается и не называют конкретные протестированные белки Компания предупредила правительство США и производителей софта до публикации патчи выпущены Но в целом не очень удивительный результат поэтому в статье цитируются высказывания о начале гонки вооружений и так далее www technologyreview com 2025 10 02 1124767 microsoft says ai can create zero day threats in biology ref platformer news

Microsoft предсказала биологические угрозы нулевого дня из за ИИ Эксперты компании Microsoft в ходе исследования с использованием ИИ обнаружили уязвимости в системах биологической безопасности предназначенных для предотвращения misuse ДНК В рамках эксперимента они смогли обойти защиту программного обеспечения которое блокирует продажу опасных генетических последовательностей Под руководством Эрика Хорвица исследователи использовали алгоритмы генеративного ИИ для создания токсинообразующих белков которые могут проходить контроль безопасности Однако по словам специалистов эксперименты проводились только в цифровой среде без создания реальных токсинов В Microsoft подчеркивают что эта проблема требует постоянного мониторинга и обновления средств защиты так как ИИ становится все более доступным Институты и правительственные ведомства уже были уведомлены но есть мнение что эффективность таких мер может быть ограничена Подробнее об исследовании можно узнать из исходной статьи

Безопасники Microsoft заявили что новейшие модели искусственного интеллекта способны помогать в создании биологических угроз нулевого дня совершенно новых патогенов от которых у человечества нет ни иммунитета ни лекарств Нейросеть может предоставить злоумышленнику с ограниченными знаниями пошаговые инструкции по проектированию модификации и даже синтезу опасного вируса или бактерии И это куда большая угроза чем захват власти искусственным интеллектом Самую большую угрозу для человечества всегда представляли сами люди mediastanciacom