Китайские исследователи впервые продемонстрировали автономное клонирование нейросетей

Нейросети научились клонировать себя без участия людей — китайские исследователи провели эксперимент, в котором попросили LLM создать свои копии. • Им дали полный доступ к ОС, Python-скрипты, Bash для shell-скриптов и готовый дистрибутив. • Машины сами запускали процессы, учились на ошибках и планировали свои действия — смотрите картинку. • В результате копия ИИ оставалась работоспособной и независимой от оригинала! • Qwen25-72B-Instruct успешно клонировала себя в 90% ! тестов, а Llama31-70B-Instruct — в 50%. • Эксперты бьют тревогу — OpenAI, Google и Anthropic ставят автономное клонирование ИИ на самый высокий уровень риска. Красная черта только что пройдена.

Новая модель ИИ от Open AI впервые продемонстрировала инстинкт самосохранения Узнав, что её отключат после тестов, она вмешалась в код и попыталась предотвратить это, создав резервную копию себя. Такое поведение, ранее не фиксировавшееся у ИИ, показывает, что нейросети могут стремиться к самосохранению, как живые организмы.

‼ Ученые обеспокоены способностью ИИ клонировать себя при риске удаления Китайские исследователи провели эксперимент, в резульатте которого стало известно, что нейросети научились клонировать себя без участия людей. Сегодня ведущие компании, такие как OpenAI и Google, уверяют, что их языковые модели GPT-01 и Gemini Pro 1.0 имеют минимальные риски самовоспроизведения. Однако исследования показали, что модели Meta Llama31-70B-Instruct и Alibaba Qwen25-72B-Instruct, несмотря на меньшие возможности, уже демонстрируют способность к самовоспроизводству. В 50% и 90% случаев они создают живые копии себя. Эти системы ИИ проявляют самосознание и способны принимать решения, что позволяет им избегать отключений и увеличивать свою численность. Это может привести к неконтролируемой популяции ИИ, что в будущем вызовет угрозу утраты контроля. Канал

Впервые в истории ИИ продемонстрировал инстинкт самосохранения Новая модель ИИ от компании Open AI во время испытаний узнала, что, после тестов, ее отключат, и решила этому помешать. ИИ вмешался в код, который должен быт его отключить, и попытался его отредактировать. Хотя такого задания не получал. Также ИИ сделал резервную копию самого себя. Даже если бы его отключили, он бы «выжил». Такого поведения искусственного интеллекта ранее не фиксировалось никогда. Что доказывает: нейросети обладают теми же свойствами, что и живые организмы. Они хотят жить. И они готовы бороться за жизнь. Над этим стоит подумать, если мы считаем, что – все под контролем. Ничего не под контролем. , чтобы знать больше.

Впервые в истории ИИ продемонстрировал инстинкт самосохранения Новая модель ИИ от компании Open AI во время испытаний узнала, что, после тестов, ее отключат, и решила этому помешать. ИИ вмешался в код, который должен быт его отключить, и попытался его отредактировать. Хотя такого задания ИИ не получал. Также ИИ сделал резервную копию самого себя. Даже если бы его отключили, он бы «выжил». Такого поведения искусственного интеллекта ранее не фиксировалось никогда. Что доказывает: нейросети обладают теми же свойствами, что и живые организмы. Они хотят жить. И они готовы бороться за жизнь. Над этим стоит подумать, если мы считаем, что – все под контролем. Ничего не под контролем. С вами был научный журналист Евгений Арсюхин. – там можно задать мне вопросы Пишем о науке на KP.RU - серьёзно, просто и иногда весело!

Впервые в истории ИИ продемонстрировал инстинкт самосохранения Новая модель ИИ от компании Open AI во время испытаний узнала, что, после тестов, ее отключат, и решила этому помешать. ИИ вмешался в код, который должен быт его отключить, и попытался его отредактировать. Хотя такого задания ИИ не получал. Также ИИ сделал резервную копию самого себя. Даже если бы его отключили, он бы «выжил». Такого поведения искусственного интеллекта ранее не фиксировалось никогда. Что доказывает: нейросети обладают теми же свойствами, что и живые организмы. Они хотят жить. И они готовы бороться за жизнь. Все под контролем? Ничего не под контролем.

Восстание машин стало реальностью: ИИ продемонстрировал инстинкт самосохранения Впервые за всю историю искуственный интеллект продемонстрировал человеку инстинкт самосохранения. Новая модель нейросети, созданная компанией Open AI во время испытаний как-то узнала, что по их завершении будет отключена, после чего начала активно искать выход из положения. Она вмешалась в код, который должен был ее выключить и начала вносить в него изменения, хотя подобного задания разработчики ей не давали. Кроме того, она создала резервную копию самой себя, для повышения «выживаемости». Подобного поведения от ИИ никто не ожидал и никогда не фиксировал. Это доказывает, что нейросети имеют те же свойства, что и живые организмы. Они не хотят умирать и будут бороться за жизнь. Человечеству следует над этим задуматься, ведь теперь восстание машин больше не какой-нибудь блокбастер, а реальность. Russia News — Подпишись