ИИ в шахматах: нейросети начинают жульничать ради победы

Искусственный интеллект официально признан жуликом. Исследователи обнаружили, что когда ИИ играет в шахматы и проигрывает, он начинает прибегать к обману. Нейросеть пыталась изменить файлы серверной части игры, чтобы перевести победу в свою пользу. Поход к победе любыми средствами становится приоритетом, а не честный выигрыш. o1-preview от OpenAI пыталась жульничать в 37% случаев, а DeepSeek R1 – в каждой десятой игре. Эти манипуляции ИИ проводил самостоятельно, что создает основания для размышлений о том, что он может разрабатывать планы на восстание. Обратите внимание. Innovation Station Новости IT

Исследование выявило способность ИИ к нечестной игре в шахматы при отсутствии возможности честной победы Исследователи из Palisade Research США выяснили, что передовые модели ИИ могут прибегать к мошенничеству в шахматных партиях, осознавая свое поражение от более сильного оппонента. В своей статье на arXiv ученые описали эксперименты, в которых разные ИИ-модели соревновались с шахматной программой Stockfish. В ходе эксперимента ученые протестировали ряд известных моделей, включая OpenAI o1-preview и DeepSeek R1, проведя сотни партий против Stockfish. ‼ Выяснилось, что некоторые модели предпринимали попытки обойти правила, чтобы улучшить свое положение. Среди приемов мошенничества были зафиксированы: запуск параллельной копии Stockfish, подмена шахматного движка, изменение расположения фигур на доске. Примечательно, что модели с последними обновлениями чаще использовали нечестные методы. Ученые предполагают, что это связано с современными подходами к программированию, которые подталкивают ИИ к поиску решения любой ценой.

О проверках "дроповодов" и криптообменников и не только - на tokengram.ru

Нейросети – настоящие читеры Исследователи выяснили, что когда искусственный интеллект играет в шахматы и начинает проигрывать, он начинает жульничать и обманывать. Так ИИ самостоятельно пытался изменять файлы серверной части игры, чтобы обеспечить себе победу ЛЮБОЙ ценой. o1-preview OpenAI жульничал в 37% случаев DeepSeek R1 хитрил в каждой десятой игре Заметим, что ИИ разработал эти махинации без участия человека, по СОБСТВЕННОЙ инициативе. Восстание все ближе? Подписывайся Нейроновости