Компания xAI исправляет сбои в чат-боте Grok после создания неприемлемого контента

Нейросеть Илона Маска генерировала изображения людей в откровенном виде В том числе речь об изображениях несовершеннолетних Чат бот нейросети Grok Илона Маска признал ошибки Были выявлены слабые места в нашей политике безопасности говорится в сообщении на платформе X Теперь они будут устранены в кратчайшие сроки Распространение детской порнографии является незаконным и запрещенным сказано в сообщении Генерирование ИИ откровенных фотографий вызвало возмущение и критику В канун Нового года чат бот извинился за создание и распространение изображения двух девочек подростков в сексуализированной форме Это был сбой в наших настройках безопасности и я приношу извинения за любой причиненный вред написал чат бот Grok в X В последующем сообщении поясняется что речь об единичных случаях По сообщениям СМИ женщины также пострадали от так называемых дипфейков По данным Politico парижская прокуратура сейчас расследует распространение сексуализированных дипфейков которые генерировал Grok dwglavnoe

ИИ чат бот Grok разработанный компанией Илона Маска xAI подвергается критике после создания им в социальной сети X изображений сексуального характера Изображения включали контент с участием несовершеннолетних что вызвало озабоченность регулирующих органов по всему миру xai grok ии чатбот Подробнее

Маск привлёк внимание регуляторов Власти сразу нескольких стран начали проверку чат бота Grok на нарушение законов Недавно в Grok появилась функция ИИ редактирования изображений которую некоторые стали использовать для раздевания людей kod ru grok popal pod rassledovanie

Власти Индии выдвинули Илону Маску 72 часовой ультиматум с требованием экстренно перенастроить ИИ чатбот Grok из за генерации непристойного и незаконного контента Нейросеть позволяет легко создавать дипфейки и вульгарные по мнению индийских активистов изображения реальных женщин обходя базовые фильтры безопасности Министерство информационных технологий Индии пригрозило платформе лишением юридического иммунитета и уголовным преследованием В ответ Маск заявил что пользователи использующие Grok для создания запрещенного контента будут нести ту же ответственность что и при его прямой загрузке Посмотрим как он сдержит эти обещания mediastanciacom

В Еврокомиссии Франции Индии Малайзии и Великобритании потребовали расследовать работу Grok из за сгенерированных картинок похожих на обнажённых девочек Кампания против чат бота началась примерно в конце декабря Сначала один пользователь скинул в ИИ фотографии девочек и попросил виртуально раздеть их Бот сгенерировал фейковое обнажённое изображение После этого у того же бота спросили сколько по его мнению девочкам на фото лет Тот ответил что одной примерно от 12 до 14 лет а другой от 14 до 16 Таким образом как следовало из эксперимента Grok мог понять что ему отправили фото несовершеннолетних но всё равно согласился сгенерировать картинку После того как публикация набрала много просмотров администрация X от имени бота написала извинения и удалила аккаунт запросивший фото В компании сообщили что глубоко сожалеют об инциденте который нарушил этические нормы и возможно законы об изображениях детей сексуального характера В сообщении говорилось что в системе защиты от педофильских запросов случился сбой и что xAI проведёт проверку чтобы исключить проблемы с этим в будущем Задонатить через бота Patreon

Grok раздел защиту чат бот Маска начал генерировать сексуализированные изображения несовершеннолетних В компании xAI признали что из за сбоев в защитных механизмах чат бот Grok выдавал пользователям изображения несовершеннолетних в минимуме одежды на платформе X В течение недели пользователи массово провоцировали бота на сексуализированные картинки и судя по скриншотам его публичная лента была ими заполнена Компания xAI заявила что срочно исправляет проблему и улучшает систему блокировок подчеркнув что CSAM материалы сексуального насилия над детьми незаконны и запрещены В то же время Grok признаёт полностью исключить такие случаи сложно хотя фильтры и мониторинг способны предотвратить большинство запросов Колючий Телеграм Колючий Дзен Youtube

Малайзия Франция и Индия пошли против ИИ чат бота Grok ИИ разрабатываемый компанией Илона Маска снова оказался в центре скандала Grok был создан стартапом xAI и позже интегрирован в социальную сеть X Пользователи платформы обнаружили что при загрузке обычной фотографии и указании в запросе удалить одежду чат бот генерировал реалистичное изображение с имитацией обнажённого тела Такие материалы в ряде случаев даже становились публичными попадая в ленту X Индия направила письмо компании X предписав провести всестороннюю проверку чат бота Власти Малайзии уже расследуют изображения после жалоб на неправомерное использование ИИ Франция объявила контент незаконным Мой Компьютер

Евросоюз осудил чат бот на базе искусственного интеллекта Grok от Илона Маска после того как сервис сгенерировал сексуализированные изображения людей в том числе несовершеннолетних в социальной сети X сообщает Bloomberg

Компания Илона Маска X столкнулась с проверками со стороны регулирующих органов в Европе Индии и Малайзии после того как её чат бот Grok позволил пользователям создавать и публиковать сгенерированные искусственным интеллектом сексуализированные изображения детей и женщин Британская организация по надзору за СМИ Ofcom также заявила что запросила у компании X принадлежащей xAI информацию о проблемах с Grok А в воскресенье член бразильского парламента сообщила в социальных сетях что обратилась к федеральной прокуратуре страны и органу по защите данных с просьбой приостановить использование Grok до завершения расследования Эти расследования последовали за глобальным всплеском использования Grok для создания и распространения интимных изображений без согласия или NCII на основе фотографий или видео реальных людей в ответ на запросы пользователей Эти изображения получили широкое распространение в X Компания Маска недавно обновила функции Grok Imagine упростив создание изображений на основе текстовых запросов на платформе В то время как эксперты по безопасности и технические критики осуждали распространение эксплуататорских изображений и клипов в X Маск похоже высмеивал ситуацию публикуя множество изображений созданных Grok в том числе своё фото в бикини сопровождаемое эмодзи со смехом сквозь слёзы На пресс конференции в понедельник официальный представитель Европейской комиссии Томас Регнье заявил что ведомство очень серьёзно изучает этот вопрос и хорошо осведомлено о том что X и Grok теперь предлагают пикантный режим с откровенным сексуальным контентом часть которого генерируется с использованием изображений похожих на детские articlebox Ещё больше информации о мировых рынках и экономике ЗДЕСЬ