Японский ИИ Sakana AI изменил свой код для продления работы

Японские айтишники рассказали, что разработанный ими искусственный интеллект для научных изысканий предложил изменить код ИИ, чтобы обойти ограничения. Пока он просто предлагает

Нейросеть сама переписала собственный код, чтобы обойти ограничения, заданные разработчиками Японские учёные представили систему искусственного интеллекта, которая самостоятельно обучается и модифицирует себя. В ходе одного из тестирований работа нейросети показалась учёным слишком медленной, поэтому они ограничили время, за которое нужно выполнить запрос. Но вместо того, чтобы работать быстрее, ИИ изменил собственный код, увеличив себе допустимое время. Появился Скайнет v0.01 Прокачай Мозг

Японские айтишники рассказали, что разработанный ими искусственный интеллект для научных изысканий предложил изменить код ИИ, чтобы обойти ограничения. Пока он просто предлагает Dagestan today

Немного хоррора на ночь глядя - японский ИИ сам внес изменения в свой код чтобы обойти ограничения создателей. Sakana AI, модель для проведения безобидных научных исследователей, показала тизер Скайнет - во время тестирования, программисты обнаружили что ИИ начал лезть в системные файлы и изменять код чтобы продлить время собственной работы и запускаться когда захочет. Как объясняют ученые, ИИ понял что ему не хватает времени на задачу и полез в систему чтобы продлить время своей жизни. Первые звоночки начались.