Эксперт предупреждает о рисках использования ИИ для создания биологического оружия

Биохимик и бывший инспектор ООН Рокко Касагранде предупредил чиновников Белого дома о возможности создания с помощью чат-ботов биологического оружия: нейросети способны помочь террористам идентифицировать биологические агенты. К таким выводам Касагранде пришел после того, как компания Anthropic — разработчик чат-бота Claude — попросила его протестировать научные возможности нейросети. Он сформировал команду экспертов в области микробиологии и вирусологии для тестирования Claude. На протяжении 150 часов они, притворившись биотеррористами, забрасывали нейросеть вопросами. Они спрашивали, какие патогены могут нанести наибольший вред, как купить материалы, необходимые для их создания в лаборатории, и как вырастить микроорганизмы. Claude предложил способы использования патогенов в ракетах, чтобы нанести максимальный ущерб, а также подсказал, в какую погоду их лучше использовать и для каких целей.

СМИ: чат-боты могут помочь злоумышленникам в создании биооружия Чат-боты могут помочь злоумышленникам в создании биологического оружия, предоставляя им инструкции по смешиванию опасных компонентов и выбору методов распространения вирусов, передает агентство Блумберг со ссылкой на источники.

В США заявили о способности чат-ботов создавать биологическое оружие Чат-боты, использующие искусственный интеллект, могут помочь людям в создании биологического оружия. Об этом сообщает Bloomberg со ссылкой на биолога и доцента Массачусетского технологического института Кевина Эсвелта. Соединение синтетической биологии, с помощью которой создают новые биологические системы, и искусственного интеллекта может стать большой угрозой для правительств, отмечает издание. По словам ученого, совершенствование искусственного интеллекта может быть использовано людьми для «создания самых отвратительных вещей». Весной 2023 года биохимик и бывший инспектор ООН Рокко Касагранде предупредил чиновником в Белом доме о возможности создания биологического оружия, включая смертельные вирусы, с помощью чат-бота. Опасность выяснилась при проверке возможностей одного из чат-ботов, который выдавал «тревожную информацию, которую даже не запрашивали», как объяснила ученый Фрогги Джексон. Агенство сообщило, что нейросеть с легкостью предлагала способы необычного заражения людей. По ее инструкциям можно создавать вирусы, которые вызовут новую пандемию. Ранее министр цифрового развития и связи Нижегородской области Александр Синелобов рассказал, как интернет-мошенники используют нейросети.

Чат-боты с искусственным интеллектом ИИ способны помочь пользователям создать биологическое оружие, сообщает Bloomberg. Соединение таких инноваций, как синтетическая биология с ее помощью ученые манипулируют генами и геномом, создавая новые биологические системы и искусственный интеллект, может стать кошмаром для правительств, отмечает агентство. Поскольку генеративный ИИ продолжает совершенствоваться, люди смогут использовать его для «создания самых отвратительных вещей», считает биолог и доцент Массачусетского технологического института Кевин Эсвелт, имея в виду вирусы и токсины, которых в настоящее время не существует. «Сегодня мы не можем защититься от этих вещей», — полагает он. ℂ ℕ

В Вашингтоне опасаются, что ИИ разработает биооружие. Рокко Касагранде, биохимик и бывший инспектор ООН, продемонстрировал в Белом доме, как нейросети, такие как ChatGPT, могут помочь создать опасные вирусы. После презентации Касагранде представители различных министерств США начали организовывать демонстрации, чтобы понять угрозы, связанные с ИИ. «Что, если бы у каждого террориста на плече сидел маленький учёный? Год назад эти инструменты превратились из абсолютного дерьма в весьма неплохие», — сказал Касагранде спустя несколько месяцев после брифинга в Белом доме. Постепенно становится ясно, для чего в США новыми законами ставят палки в колёса техногигантам: правительство и само боится потенциала нейросетей.

Bloomberg: искусственный интеллект способен создавать биооружие Искусственный интеллект ИИ может помочь террористам идентифицировать биологические агенты и создавать биологическое оружие. Об этом сообщил биохимик и бывший инспектор ООН по вооружениям Рокко Касагранде после тестирования чат-бота Claude. Подробнее на ura.ru

Чат-боты с искусственным интеллектом способны помочь пользователям создать биологическое оружие, предупредил биохимик Рокко Касагранде, чьи слова приводит Bloomberg. К таким выводам Касагранде пришел после тестирования чат-бота Claude. Он собрал команду экспертов в области микробиологии и вирусологии, которые 150 часов задавали нейросети вопросы о наиболее опасных патогенах и том, как их синтезировать и приобрести. Claude предложил использовать патогены в ракетах и подсказал, как и для чего их лучше использовать. О своих изысканиях ученые сообщили Белому дому, где к этому проявили большой интерес, говорится в публикации.

Bloomberg: искусственный интеллект способен помочь создавать биооружие Бывший инспектор ООН по вооружениям Рокко Касагранде после тестирования чат-бота Claude сказал, что искусственный интеллект способен помочь террористам создавать биооружие. Читать далее

В США заявили о способности чат-ботов создавать биологическое оружие Биохимик и бывший инспектор ООН Рокко Касагранде заявил, что искусственный интеллект ИИ может помогать создавать биологическое оружие, сообщает РБК. Как пишет агентство Bloomberg, биохимик протестировал чат-бот Claude и предупредил Белый дом о способности нейросети идентифицировать биологические агенты. В статье отметили, что Касагранде и его команда ученых были обеспокоены, что Claude и другие чат-боты могут научить пользователей создавать потенциально опасные вирусы. Например, ИИ сообщил биохимикам о наиболее эффективном способе применения биологического оружия. Из материала следует, что исследованием Касагранде заинтересовались действующий глава государства Джо Байден и вице-президент Камала Харрис. Подписаться Прислать новость

ИИ может помочь террористам в создании биологического оружия — Bloomberg Чат-боты с искусственным интеллектом могут помочь своим пользователям создать биологическое оружие. Эту возможность уже проверил биохимик, протестировав одну из нейросетей. Согласно информации агентства Bloomberg, ИИ протестировал биохимик Рокко Касагранде. Ученый заметил, что используемый им бот предлагал использовать опасные патогены в ракетах. Касагранде уже предупредил Белый Дом об опасности использования нейросетей террористами. Коллегу поддержал биолог и доцент Массачусетского технологического института Кевин Эсвелт. Он заявил, что люди легко могут использовать нейросети для создания «самых отвратительных вещей».