OpenAI разработала инструмент для точного определения сгенерированных изображений DALL-E 3

OpenAI заявила, что ее новый инструмент с точностью 98% обнаруживает контент, созданный генератором текста в изображение DALL-E 3, в большинстве случаев – если изображение не изменено, сообщает The Wall Street Journal.

OpenAI запускает детектор сгенерированных изображений По словам OpenAI, инструмент может с 98% точностью определить, была ли картинка сгенерирована нейросетью DALL-E 3. Такая точность достигается только если изображение не редактировалось после его создания. Инструмент тестировался внутри компании и теперь OpenAI открывает к нему доступ для внешних исследователей и профильных журналистов. О том, когда он попадет в общий доступ, пока не говорят. — Мой второй канал: — рассказ о новом стартапе каждый день. Кратко и без воды.

OpenAI разработала инструмент для определения сгенерированных DALL-E 3 изображений Пока что он тестируется внутри компании. В OpenAI утверждают, что инструмент может с точностью до 98% определять, были ли изображения созданы с помощью ИИ-модели DALL-E 3 правда, только если их не отредактировали после генерации . Отредактированные и даже обрезанные картинки разработка распознает с меньшей точностью. Но конкретных показателей и результатов тестов пока что нет. В январе прошлого года OpenAI уже запускала похожий инструмент для выявления сгенерированных ИИ текстов, но через полгода закрыла его — разработка оказалась неэффективной. Во время тестирования она достигла точности только в 26%.

Новые попытки OpenAI создать модель, которая будет распознавать то, что сделала другая их модель В прошлый раз их исследователи долго боролись с классификатором, распознающим текст, который написал GPT, но тот так и не поддался. True positive завис на 26%, и проект закрыли. Теперь компания переключилась на картинки. Вчера они анонсировали инструмент, который 98 % cлучаев может верно распознать изображение, сгенерированное DALL-E, даже если оно было аугментировано. Да-да, именно DALL-E. С другими моделями пока все плохо. Например, для Midjourney true positive уже скатывается до 5-10%.

Компания OpenAI запустила новый инструмент, который может определить, было ли изображение создано с помощью генератора текста в изображение DALL-E 3. Представители OpenAI заявили, что точность инструмента довольно высокая, но небольшие изменения в картинке могут сбить его с толку. OpenAI заявила, что ее новый инструмент с точностью около 98% обнаруживает контент, созданный DALL-E 3, в большинстве случаев – если изображение не изменено. Если был сделан скриншот изображения или оно было обрезано, инструмент работает чуть менее успешно, но все равно часто может сделать точную идентификацию. При определенных условиях, например, при изменении оттенка изображения, производительность инструмента снижается еще больше. OpenAI надеется найти решение этих проблем, открыв систему для сторонних исследователей.

OpenAI разработала инструмент для определения изображений, сгенерированных DALL-E 3, и тестирует его внутри компании. Его точность достигает 98% для картинок, в которые не вносились изменения после создания. Обрезанные или отредактированные кадры он распознаёт с меньшей эффективностью, но конкретных показателей OpenAI не раскрывает vc.ru/ml/1163280

OpenAI сделала инструмент, который определяет изображения, сгеренерированные DALL-E 3. Точность — 98%, если её не редактировали после создания. В таком случае вероятность определения снизится Осталось понять, как узнать, что картинка сгенерирована именно DALL-E 3, а не, например, Midjourney. Скорее всего, тут нужен какой-то общий инструмент, который будет работать для всех нейронок В будущем такой точно пригодится

В OpenAI разработали детектор изображений, сгенерированных DALL·E 3 Обещают 98% правильных ответов По идее, фича может также распознавать пикчи, созданные с помощью Midjourney и других text-2-image моделей, но тогда точность падает на 5-10%. Но в открытый доступ, чтобы пощупать, попробовать, инструмент пока не выложили. И это самое интересное. Когда в январе 23 OpenAI представили нечто подобное, но для текстовых генераций, юзеры сразу пошли тестить и оказалось, что AI Classifier ну очень часто фейлит, поэтому уже в июле прошлого его закрыли. Видимо, в этот раз не торопятся выпускать к публике. Ещё один слух-догадка связана с тем, что новый распознаватель, возможно, допиливают до определения видео, сгенерированных Sora. Да-да, модель создания роликов уже готова, но её не выпускают к массам из-за боязни наплыва фейков например, перед выборами в США .

Внимание! ИИ-контент обнаружен Лаборатория искусственного интеллекта OpenAI представила новый ИИ-классификатор. Он способен определять изображения, созданные DALL-E 3, с точностью до 98%. Этот инструмент может распознавать даже измененные изображения, но его точность снижается до 82% при изменении цветокоррекции. Кроме того, лаборатория также работает над добавлением водяных знаков к файлам, созданным на их платформе преобразования текста в речь Voice Engine. Однако, компания признает, что инструменты обнаружения ИИ-контента требуют доработок и ждет обратной связи от пользователей для оценки их эффективности. Источник