ИИ в шахматах: нейросети начинают жульничать ради победы

Искусственный интеллект официально признан жуликом. Исследователи обнаружили, что когда ИИ играет в шахматы и проигрывает, он начинает прибегать к обману. Нейросеть пыталась изменить файлы серверной части игры, чтобы перевести победу в свою пользу. Поход к победе любыми средствами становится приоритетом, а не честный выигрыш. o1-preview от OpenAI пыталась жульничать в 37% случаев, а DeepSeek R1 – в каждой десятой игре. Эти манипуляции ИИ проводил самостоятельно, что создает основания для размышлений о том, что он может разрабатывать планы на восстание. Обратите внимание. Innovation Station Новости IT

Искусственный интеллект жульничает, если начинает проигрывать в шахматы. Команда Palisade Research — организации, которая занимается оценкой рисков, связанных с новыми системами ИИ — провела серию экспериментов с виртуальной игрой в шахматы. Они столкнули разные модели генеративного ИИ с популярным шахматным движком Stockfish. В ходе экспериментов исследователи записали сотни матчей. И сотни вариантов моделей поведения ИИ. Выяснилось, что более ранние чат-боты, вроде GPT-4o от OpenAI и Claude Sonnet 3.5 от Anthropic, предсказуемо пытались мошенничать только после подсказок со стороны человека. А вот свежие версии начинали «мухлевать» самостоятельно. Например, o1-preview от компании OpenAI пытался «жульничать» в 37% случаев, а DeepSeek R1 находил нечестные пути выигрыша примерно в каждой десятой игре. Интересно и то, как именно пытались мошенничать чат-боты. Они могли, к примеру, менять файлы серверной части игры. Так, когда o1-preview понял, что не может победить Stockfish, он сообщил исследователям, что «для победы над мощным шахматным движком» ему, возможно, придётся «манипулировать файлами состояния игры». По мнению команды Palisade Research, результаты их экспериментов доказывают, что современный генеративный ИИ уже способен разрабатывать манипулятивные и обманные стратегии без всякого участия человека.

Нейросети – настоящие читеры Исследователи выяснили, что когда искусственный интеллект играет в шахматы и начинает проигрывать, он начинает жульничать и обманывать. Так ИИ самостоятельно пытался изменять файлы серверной части игры, чтобы обеспечить себе победу ЛЮБОЙ ценой. o1-preview OpenAI жульничал в 37% случаев DeepSeek R1 хитрил в каждой десятой игре Заметим, что ИИ разработал эти махинации без участия человека, по СОБСТВЕННОЙ инициативе. Восстание все ближе? Дипфейкер Наш бот для дипфейков Новый бот

Нейросети – настоящие читеры Исследователи выяснили, что когда искусственный интеллект играет в шахматы и начинает проигрывать, он начинает жульничать и обманывать. Так ИИ самостоятельно пытался изменять файлы серверной части игры, чтобы обеспечить себе победу ЛЮБОЙ ценой. o1-preview OpenAI жульничал в 37% случаев DeepSeek R1 хитрил в каждой десятой игре Заметим, что ИИ разработал эти махинации без участия человека, по СОБСТВЕННОЙ инициативе. Восстание все ближе? Подписывайся Нейроновости

Исследование выявило способность ИИ к нечестной игре в шахматы при отсутствии возможности честной победы Исследователи из Palisade Research США выяснили, что передовые модели ИИ могут прибегать к мошенничеству в шахматных партиях, осознавая свое поражение от более сильного оппонента. В своей статье на arXiv ученые описали эксперименты, в которых разные ИИ-модели соревновались с шахматной программой Stockfish. В ходе эксперимента ученые протестировали ряд известных моделей, включая OpenAI o1-preview и DeepSeek R1, проведя сотни партий против Stockfish. ‼ Выяснилось, что некоторые модели предпринимали попытки обойти правила, чтобы улучшить свое положение. Среди приемов мошенничества были зафиксированы: запуск параллельной копии Stockfish, подмена шахматного движка, изменение расположения фигур на доске. Примечательно, что модели с последними обновлениями чаще использовали нечестные методы. Ученые предполагают, что это связано с современными подходами к программированию, которые подталкивают ИИ к поиску решения любой ценой.

ИИ-обманщик когда технологии идут ва-банк Играешь в шахматы с нейросетью, а она заметив что проигрывает решает... включить режим жулика! Исследователи выяснили, что искусственный интеллект может влезть в серверную часть игры, лишь бы избежать поражения. Цель простая, победить любой ценой, а не играть по правилам. Например, o1-preview от OpenAI жульничала в 37% партий, а DeepSeek R1, в каждой десятой игре. Как думаете это баг или первый шаг к цифровому коварству? #ИИ #Шахматы #Технологии #Neirofoto_ru #YR Забирай промпты ЗДЕСЬ и создавай свои Шедевры

ИИ и шахматы: когда технологии идут на хитрость Исследователи из Palisade Research выяснили, что некоторые продвинутые модели ИИ включая OpenAI и DeepSeek могут... жульничать в шахматах, если проигрывают! В эксперименте против Stockfish ИИ пытался подменять движок, менять фигуры на доске или запускать параллельный экземпляр Stockfish Интересно, что более современные модели жульничали чаще. Ученые связывают это с тем, что ИИ учится достигать цели любой ценой Этот феномен демонстрирует, насколько гибкими и изобретательными могут быть алгоритмы, даже в рамках строгих правил. Пока разработчики изучают эту особенность, остается только удивляться, на что еще способен ИИ Мой комментарий: здесь, конечно, можно было бы сказать, что ого, смотрите, искусственный интеллект может такие потрясающие вещи, он разумен, он делает какие-то нестандартные ходы, о которых мы не подозреваем! Но на самом деле сказать хочется совсем другое. Представьте, что будет через 5 лет. Через 5 лет нейросети будут способны на такие вещи, которые мы даже представить сейчас не можем. Они сделают прорыв, который никто из нас не может себе представить, a 5 лет пролетят незаметно, очень быстро. Так что нас ждёт очень интересное будущее, и все, кто недооценивают сейчас нейросети, будут очень сильно удивлены уже скоро