OpenAI рассматривает внедрение системы маркировки текста, сгенерированного ChatGPT

OpenAI давно разработала систему маркировки текста, сгенерированного ChatGPT, а вместе с ней и инструмент для выявления этого текста; в опросе люди поддержали эту идею, но были и те, кого маркировка могла бы отпугнуть и компания пока так и не реализовала ее — The Wall Street Journal #OpenAI #ChatGPT #AI

​​OpenAI готовит новый детектор ChatGPT Корпорация OpenAI разрабатывает новый инструмент для выявления студентов, использующих ChatGPT для решения заданий, но вопрос о его выпуске остаётся открытым. В прошлом году OpenAI уже выпускала "детектор текста ИИ", но закрыла его из-за «низкой точности». ‍ Сообщается, что новый метод водяного знака обещает высокую точность и нацелен на определение текстов, созданных ChatGPT, через незначительные изменения в словах. Однако существующие проблемы с защитой от вмешательства и исправления подчеркивают уязвимость подхода. Также поднимается вопрос о том, что использование водяного знака может привести к стигматизации ИИ среди неносителей английского языка. ==============

OpenAI не будет маркировать текст ChatGPT водяными знаками, потому что опасается, что пользователи будут реже общаться с чат-ботом. The Verge #новости

У разработчиков ChatGPT есть способ отмечать и находить контент чат-бота, но его не внедряют. По-видимому, компанию пугает, что треть пользователей будет использовать ИИ реже, если его можно будет опознать. Пишите, используете ли нейросети в работе? Стесняетесь или гордитесь?

OpenAI изобрела инструмент, определяющий сгенерированный ИИ текст, но его выпуск обсуждается Разрабатывая ChatGPT, OpenAI позаботилась об инструментах для противодействия массовому засилью сгенерированной информации. Компания изобрела технологию, с вероятностью 99,9 % распознающую сгенерированный текст. Однако ее выпуск в открытый доступ под вопросом — OpenAI боится, что популярность ChatGPT из-за этого упадет. Читать далее

OpenAI разработала метод для обнаружения текста, написанного ChatGPT. Метод работает на основе водяных знаков. Но компания не спешит с релизом «детектора текста». Система водяных знаков была готова к развёртыванию ещё год назад, сообщает WSJ. Проблемы идут лично от OpenAI, чье руководство сомневается в пользе от данного метода. Некоторые и вовсе думают, что выпуск метода на открытый рынок очень плохо скажется на финансовом положении компании.

OpenAI уже знает, как маркировать ИИ-текст, но сомневается, стоит ли это делать По сообщению WSJ, в компании есть готовое решение по нанесению водяных знаков на текст, сгенерированный ChatGPT, а единого мнения, стоит ли его выпускать — нет. Компания остерегается потери прибыли, так как многие пользователи перестанут использовать чат-бот, если его работу можно будет отследить. rozetked.me/news/34471

OpenAI разрабатывает технологию для распознавания текстов, созданных ChatGPT, но не планирует ее внедрение из-за опасений пользователей. В то же время Google тестирует SynthID для идентификации текста, созданного Gemini AI. Эксперты подчеркивают необходимость борьбы с мошенничеством в ИИ.

У OpenAI есть детектор текста, написанного ChatGPT В компании говорят, что детектор вычисляет сгенерированный текст по водяным знакам — скрытым символам, которые ChatGPT оставляет после себя. Он отлично справляется с обнаружением незначительных изменений текста, таких как перефразирование, но плохо распознает серьезные изменения: переводы, переписывание с использованием различных моделей AI и удаление водяных знаков. OpenAI заявляет, что из-за большого шанса на ошибку, детектор не пойдет в открытый доступ. Вместо этого, компания сосредоточится на защите от мошенничества со сгенерированными изображениями. — AI в маркетинге и продажах, офлайн встреча в Москве для предпринимателей

Водяные знаки для текстов ChatGPT? Похоже, OpenAI оказалась в непростой ситуации. Компания уже около года имеет готовую систему водяных знаков для текстов, созданных ChatGPT, но не спешит её внедрять. По данным The Wall Street Journal, почти 30% пользователей ChatGPT заявили, что будут реже использовать сервис, если в нем появятся водяные знаки. Это серьезный удар по потенциальной выручке компании. Технология водяных знаков OpenAI работает на уровне алгоритма, влияя на вероятность выбора слов и фраз. Это создает уникальный, но незаметный для человека паттерн в тексте. Компания утверждает, что метод эффективен на 99.9% и устойчив к перефразированию. В качестве альтернативы OpenAI рассматривает внедрение метаданных в тексты. Этот метод находится на ранней стадии разработки. А вы будете пользоваться чат-ботом, если все его тексты будут помечаться?