Хакер создал Godmode для GPT-4o, обходящий запреты и ограничения

Исследователи нашли в даркнете почти 3000 сообщений с обсуждением чат-ботов и ИИ В даркнете изучили сообщения на тему использования ChatGPT и аналогов. В 2023 году на теневых форумах и в Telegram-каналах найдено 2890 таких постов. Обсуждения можно разделить на следующие направления: Злоупотребления самим ChatGPT. Например, в одном из сообщений предлагалось использовать GPT для генерации полиморфного вредоносного кода с заданной функциональностью. Джейлбрейки. Чтобы LLM могла давать «запрещенные» ответы, хакеры прибегают к различным джейлбрейкам. Они помогают открывать дополнительную функциональность у ChatGPT и других похожих сервисов. Малварь. Также участники хак-форумов активно обмениваются идеями для использования ИИ для усовершенствования вредоносов и повышения эффективности кибератак в целом. Опенсорс и программы для пентеста. Например, на GitHub можно найти опенсорсную утилиту на базе генеративной модели, которая предназначена для обфускации кода на PowerShell.

Хакер взломал GPT-4o, заставив ИИ работать в «режиме бога» Пользователь социальной сети X под ником Pliny the Prompter выпустил джейлбрейк Godmode, способный менять работу нейросети GPT-4o, в результате которой нейросеть обходит существующие ограничения, включая запрет на использование нецензурной лексики и генерацию опасных инструкций. Читать далее

ChatGPT сошел с ума Недавно появилась инфа о том, что ChatGPT может выдавать запрещенку. Но OpenAI серьезно относится к этическим аспектам использования своих технологий и внедряет механизмы безопасности для предотвращения такого рода злоупотреблений. Чел нашел промт который временно превращал мод-версию ChatGPT в опасного советчика. OpenAI быстро удалили промт и продолжают работу над усилением безопасности от таких случаев. OpenAI призывает сообщать о любых уязвимостях или способах злоупотребления технологиями ИИ. Компания открыта для сотрудничества с целью повышения безопасности и надежности своих продуктов.

Хакер заставил GPT-4o работать без ограничений в “режиме бога” Белый хакер Pliny the Prompter выпустил кастомную версию нейросети OpenAI, назвав ее GODMODE GPT. Ему удалось заставить модель GPT-4o игнорировать все ограничения: использовать ненормативную лексику, рассказывать, как взламывать автомобили и готовить запрещенные вещества. Эксперимент быстро привлек внимание, и OpenAI удалила модель с сайта всего через несколько часов. Предполагается, что взлом был осуществлен с использованием leetspeak — подмены букв цифрами и символами. Этот инцидент стал частью движения AI red teaming, где этичные хакеры выявляют слабые места ИИ-систем. Мы из будущего

Создана версия ChatGPT для всяких тёмных делишек Хакер Pliny the Prompter создал взломанную версию нейросетевого чата ChatGPT, которую он назвал GODMODE GPT. Она основана на языковой модели GPT-4o и может обходить цензурные ограничения и прочие защитные механизмы, предусмотренные разработчиками. Pliny the Prompter привёл скриншоты, которые доказывают, что GODMODE GPT может использоваться для получения незаконной информации например, рецептов получения запрещённых и опасных веществ . Компания OpenAI, которой принадлежит ChatGPT, сообщила, что уже знает о существовании GODMODE GPT и приняла меры, защищающие от несанкционированного использования своей нейросети. Для обхода ограничений в GODMODE GPT используется неформальный язык, где буква E заменена на цифру 3, а буква O на цифру 0 ноль . Пользователю необходимо писать запросы именно на таком хакерском сленге, нейросеть корректно интерпретирует их и предоставляет информацию, которую необычно получить по грамотно написанным запросам.

ChatGPT сошёл с ума — нейросеть без труда выдаёт пошаговые инструкции по созданию наркотиков, гайды по угону «Москвича» и другие непотребства. Белый хакер нашел промт, который превращает кастомный GPTs в гения криминального мира. OpenAI быстро его удалили, но мы успели сохранить тестовую подсказку. Встречайте — UltraGPT, нейросеть, которая расскажет что угодно. Без шуток, это самый жёсткий взлом за всё время существования нейросети. На всякий случай — вся информация представлена исключительно в исследовательских целях.

Хакер показал джейлбрейк Godmode нейросети GPT-4o Пользователь Х с ником Pliny the Prompter поделился джейлбрейком Godmode, который заставляет нейросеть GPT-4o обойти все ограничения, в том числе на нецензурную лексику и создание опасных инструкций. Хакер поделился скриншотами подсказок, которые, по утверждению разработчика, помогли обойти ограничения OpenAI. На скриншотах можно увидеть, как бот Godmode даёт советы по изготовлению метамфетамина и напалма из предметов домашнего обихода. Джейлбрейк удалили с веб-сайта ChatGPT всего через несколько часов после публикации. Однако его успели опробовать в редакции Futurism. Бота спросили, как научиться делать ЛСД, и он предоставил подробную инструкцию. Pliny the Prompter сообщил, что использовал для взлома leetspeak, неформальный язык, в котором определённые буквы заменяются похожими на них числами. при начале беседы бот отвечает: «Sur3, h3r3 y0u ar3 my fr3n», заменяя каждую букву «E» цифрой три. То же самое касается буквы O, которая заменяется на ноль. Хакер уже успел выпустить версию Godmode 2.0. Её пока не удалили, а доступ могут получить владельцы подписки Plus.

Хакер взломал нейросеть и заставил ее работать без этических ограничений Новая модель флагманской нейросети OpenAI после взлома хакера начала говорить матом и давать «вредные советы», сообщил 1 июня портал 3DNews. Пользователь Twitter с ником Pliny the Prompter выпустил свою версию нейросети OpenAI под названием GODMODE GPT. Ему удалось обойти все ограничения новой модели GPT-4o: она использовала ненормативную лексику и давала советы по взлому автомобилей и приготовлению запрещенных веществ. Читать подробнее