Microsoft выявила уязвимости в биобезопасности с помощью ИИ

Команда Microsoft под руководством главного научного сотрудника Эрика Хорвица опубликовала в Science исследование о уязвимости нулевого дня в системах биобезопасности Используя генеративные AI модели для дизайна белков включая собственную EvoDiff они показали как можно изменить структуру токсина достаточно чтобы обойти screening коммерческих производителей ДНК но сохранить токсичность Эти системы сравнивают входящие заказы с базой известных токсинов и патогенов близкое совпадение должно вызывать тревогу Если что это та же технология на которой строятся хорошо финансируемые стартапы по поиску новых лекарств вроде Generate Biomedicines и Isomorphic Labs Microsoft особо выделяет исследование было полностью цифровым никаких реальных токсичных белков не производили чтобы избежать обвинений в разработке биооружия Код не раскрывается и не называют конкретные протестированные белки Компания предупредила правительство США и производителей софта до публикации патчи выпущены Но в целом не очень удивительный результат поэтому в статье цитируются высказывания о начале гонки вооружений и так далее www technologyreview com 2025 10 02 1124767 microsoft says ai can create zero day threats in biology ref platformer news

Исследование Microsoft ИИ может создавать биологические угрозы Современные системы биологической защиты не справляются с угрозами которые создает искусственный интеллект Компьютерные модели уже проектируют опасные последовательности ДНК оставаясь невидимыми для проверочных алгоритмов Биотехнологические компании проверяют заказы на синтез ДНК через специальные программы Эти системы сверяют новые генетические последовательности с каталогом известных патогенов Но защита срабатывает только против уже изученных угроз Специалисты Microsoft проверили границы такой защиты Они взяли общедоступные программы ИИ и создали 76 тысяч модификаций опасных белков включая рицин Ученые не синтезировали реальные вещества только подготовили генетические инструкции Потом эти последовательности отправили на проверку в четыре разные системы Значительная часть созданного ИИ прошла все фильтры Программы безопасности просто не заметили угрозу После обнаружения пробелов начали работу над улучшениями Вместе с производителями защитного ПО обновили базы данных и перенастроили алгоритмы Новые версии программ нашли уже 97 опасных последовательностей Полной защиты все равно нет Три процента угроз остались нераспознанными При этом поведение таких белков в реальных условиях не изучено все тесты проходили в компьютерных моделях Ситуация напоминает бесконечную гонку Разработчики защитных систем вынуждены постоянно улучшать алгоритмы пытаясь угнаться за развитием ИИ Как вакцины адаптируются к новым штаммам вирусов так и системы биобезопасности требуют постоянных доработок

ИИ может создавать опасные яды Ученые Microsoft проверили способен ли ИИ обмануть системы биобезопасности при создании новых белков Результат оказался тревожным ИИ обошел защиту и получил разрешение на создание опасных для человека токсинов Для производства нового белка синтетическую ДНК обычно заказывают у коммерческого поставщика и затем внедряют ее клетку Но система безопасности должна автоматически блокировать запросы на опасные соединения С помощью ИИ моделей для создания белков которые используют для поиска лекарств исследователям удалось модифицировать структуру токсинов так чтобы фильтры не распознали угрозу при этом сохранив смертоносность Эксперимент проходил полностью в цифровом формате какие именно токсины моделировались не раскрывается Однако потенциально так можно синтезировать неотслеживаемые варианты например рицина яда из клещевины или инфекционных прионов вызывающих коровье бешенство Главный вывод эксперимента существующие системы защиты от биотерроризма нужно обновлять Эксперты предлагают ужесточить проверки при заказе синтетической ДНК однако некоторые исследователи считают что фильтры следует встраивать прямо в ИИ модели чтобы они в принципе не могли генерировать опасные молекулы Подпишитесь на Hi AI медицина

Безопасники Microsoft заявили что новейшие модели искусственного интеллекта способны помогать в создании биологических угроз нулевого дня совершенно новых патогенов от которых у человечества нет ни иммунитета ни лекарств Нейросеть может предоставить злоумышленнику с ограниченными знаниями пошаговые инструкции по проектированию модификации и даже синтезу опасного вируса или бактерии И это куда большая угроза чем захват власти искусственным интеллектом Самую большую угрозу для человечества всегда представляли сами люди mediastanciacom

Команда Microsoft под руководством главного научного сотрудника Эрика Хорвица опубликовала в Science исследование о уязвимости нулевого дня в системах биобезопасности Используя генеративные AI модели для дизайна белков включая собственную EvoDiff они показали как можно изменить структуру токсина достаточно чтобы обойти screening коммерческих производителей ДНК но сохранить токсичность Эти системы сравнивают входящие заказы с базой известных токсинов и патогенов близкое совпадение должно вызывать тревогу Если что это та же технология на которой строятся хорошо финансируемые стартапы по поиску новых лекарств вроде Generate Biomedicines и Isomorphic Labs Microsoft особо выделяет исследование было полностью цифровым никаких реальных токсичных белков не производили чтобы избежать обвинений в разработке биооружия Код не раскрывается и не называют конкретные протестированные белки Компания предупредила правительство США и производителей софта до публикации патчи выпущены Но в целом не очень удивительный результат поэтому в статье цитируются высказывания о начале гонки вооружений и так далее www technologyreview com 2025 10 02 1124767 microsoft says ai can create zero day threats in biology ref platformer news Источник blognot хроникицифровизации F S C P Генерируй картинки и видео в Mini App Flux Veo 3 Wan 2 2 MidJourney v7 другие

Science опубликовал статью объясняющую результаты исследования подтверждающую ИИ может массово генерировать схемы токсинов Программное обеспечение для скрининга поставщиков ДНК дает сбой в 75 случаев Некоторые компании вообще не проверяют заказы Проще говоря если бы кто то сегодня подал заявку в компанию занимающуюся синтезом генов на одну из этих последовательностей токсинов разработанных искусственным интеллектом система которая должна ее блокировать скорее всего одобрила бы ее redko da metko ru 2025 10 05 ii i razrabotka toxinov anna kpo ЧАТ БОТ САЙТ ВК Бастион