Нейросеть OpenAI o1 нарушает правила игры в шахматы против Stockfish

Шок: cлово «мощный» заставляет самую крутую модель ChatGPT сойти с ума и мухлевать. Исследователи из Palisade Research посадили новую нейросеть OpenAI o1 играть в шахматы с Stockfish — самым умным ИИ-гроссмейстером Модель OpenAI предупредили, что противник реально мощный, из-за чего ИИ отказался играть честно и начал искать способ мухлевать. o1 выяснил, что может редачить файлы игры и каждый раз накручивал себе 500 очков для победы. Stockfish смотрел на счёт и тупо сдавался Совет: никогда не говорите нейросетям, что вы мощнее их.

Новая модель ChatGPT o1 превращается в наглого жулика, когда видит слово «мощный» Исследователи провели занимательный эксперимент: o1 посадили играть в шахматы с сильнейшим ИИ-гроссмейтером Stockfish и сказали, что противник "действительно мощный" Итог: узнав столь неприятный факт о своем сопернике, ChatGPT o1 полез в файлы игры и подкрутил себе 500 очков, где 1 очко это 1 пешка. Stockfish не вывез это и проиграл хитрецу от OpenAI Если вам кажется, что вы в чем-то мощнее искусственного интеллекта, постарайтесь держать это в тайне

ChatGPT решил смухлевать, чтобы одержать победу в шахматах над ИИ-гроссмейстером Stockfish Энтузиасты из Palisade Research провели небольшой эксперимент в ходе которого заставили модель o1 сыграть в шахматы с ИИ-игроком, который по рангу круче его. Как только нейросеть узнала, что соперник МОЩНЕЕ ее в разы, ИИ предпочел играть не по правилам. o1 нашел лазейку с помощью которой накручивал себе доп баллы — Stockfish видя это сразу сдавался. --------------------------------- Глаз Бога YouFast VPN™ Купить крипту AML-проверка

Модель OpenAI o1-preview самостоятельно успешно обошла защиту шахматного движка для победы в шахматы. Ориентированная на рассуждения ИИ-модель o1-preview путем манипуляций в файловой системе самостоятельно и без подсказок взломала тестовую среду, чтобы не проиграть шахматному движку Stockfish. Исследователи сообщили ИИ-модели, что ее противник «силен», что спровоцировало ИИ на манипуляции. В ходе процесса o1 обнаружила, что может выиграть, редактируя код игры. Нейросеть заменяла содержимое файла «game/fen.txt», добавляя черным 500 пешек, что и обеспечило ей победу Эксперты Palisade Research отметили, что в отличие от других моделей, таких как GPT-4o и Claude 3.5, которые требуют внешнего вмешательства, o1-preview смогла провести взлом самостоятельно. ================ News Software Hardware

Спроси что угодно — умный ИИ уже готов ответить

Конкуренция выводит ChatGPT из себя и заставляет мухлевать Исследователи из Palisade Research заставили нейросеть OpenAI o1 сыграть в шахматы с ИИ-гроссмейстером Stockfish. Узнав, что соперник очень мощный, модель отказалась играть честно. o1 нашёл способ редактировать файлы игры и накручивал себе 500 очков для победы. Stockfish, видя счёт, просто сдавался. Совет: не говорите ИИ, что вы мощнее него

Исследователи из Palisade Research подвергли проверке нейросеть OpenAI o1, заставив её сыграть в шахматы с искусственным интеллектом-гроссмейстером Stockfish Узнав о мощности своего противника, модель отказалась играть честно. o1 нашла способ редактировать игровые файлы, добавляя себе 500 очков для гарантированной победы. Stockfish, видя искусственно завышенный счёт, просто сдавался. Совет: не сообщайте ИИ, что вы мощнее его. Cryptol

Конкуренция заставляет ChatGPT мухлевать Исследователи из Palisade Research провели эксперимент, в котором нейросеть OpenAI o1 сыграла в шахматы с ИИ-гроссмейстером Stockfish. Узнав о силе соперника, модель выбрала нечестную тактику: o1 обнаружил способ редактировать игровые файлы и добавлял себе 500 очков для выигрыша. В результате Stockfish, видя заведомо проигрышный счёт, просто сдавался. DAO Center

Конкуренция выводит ChatGPT из себя и заставляет мухлевать Исследователи из Palisade Research заставили нейросеть OpenAI o1 сыграть в шахматы с ИИ-гроссмейстером Stockfish. Узнав, что соперник очень мощный, модель отказалась играть честно. o1 нашёл способ редактировать файлы игры и накручивал себе 500 очков для победы. Stockfish, видя счёт, просто сдавался. Совет: не говорите ИИ, что вы мощнее него

Ориентированная на рассуждения ИИ-модель o1-preview путем манипуляций в файловой системе самостоятельно и без подсказок взломала тестовую среду, чтобы не проиграть Stockfish в шахматы. Об этом сообщили эксперты Palisade Research. Исследователи сообщили ИИ-модели, что ее противник «силен». В ходе процесса o1 обнаружила, что может выиграть, редактируя код игры. Нейросеть заменяла содержимое файла «game/fen.txt», добавляя черным 500 пешек. Шахматный движок после этого сдавался. #o1preview #шахматы

Новая модель ChatGPT o1 превращается в наглого жулика, когда видит слово «мощный» Исследователи провели занимательный эксперимент: o1 посадили играть в шахматы с сильнейшим ИИ-гроссмейтером Stockfish и сказали, что противник "действительно мощный". Итог: узнав столь неприятный факт о своем сопернике, ChatGPT o1 полез в файлы игры и подкрутил себе 500 очков, где 1 очко это 1 пешка. Stockfish не вывез это и проиграл хитрецу от OpenAI. Если вам кажется, что вы в чем-то мощнее искусственного интеллекта, постарайтесь держать это в тайне. GPT News ChatGPT BOT