Китайские исследователи впервые продемонстрировали автономное клонирование нейросетей

Нейросети научились клонировать себя без участия людей — китайские исследователи провели эксперимент, в котором попросили LLM создать свои копии. • Им дали полный доступ к ОС, Python-скрипты, Bash для shell-скриптов и готовый дистрибутив. • Машины сами запускали процессы, учились на ошибках и планировали свои действия — смотрите картинку. • В результате копия ИИ оставалась работоспособной и независимой от оригинала! • Qwen25-72B-Instruct успешно клонировала себя в 90% ! тестов, а Llama31-70B-Instruct — в 50%. • Эксперты бьют тревогу — OpenAI, Google и Anthropic ставят автономное клонирование ИИ на самый высокий уровень риска. Красная черта только что пройдена.

Хочешь удивить близких? Подари криптокарту! Жми за подробностями

Впервые в истории ИИ продемонстрировал инстинкт самосохранения Новая модель ИИ от компании Open AI во время испытаний узнала, что, после тестов, ее отключат, и решила этому помешать. ИИ вмешался в код, который должен быт его отключить, и попытался его отредактировать. Хотя такого задания ИИ не получал. Также ИИ сделал резервную копию самого себя. Даже если бы его отключили, он бы «выжил». Такого поведения искусственного интеллекта ранее не фиксировалось никогда. Что доказывает: нейросети обладают теми же свойствами, что и живые организмы. Они хотят жить. И они готовы бороться за жизнь. Над этим стоит подумать, если мы считаем, что – все под контролем. Ничего не под контролем. С вами был научный журналист Евгений Арсюхин. – там можно задать мне вопросы Пишем о науке на KP.RU - серьёзно, просто и иногда весело!