Скандал вокруг Meta: ИИ компании разрешали флиртовать с детьми и давать опасные советы

Правила запрещённой в России Meta позволяли чат-боту компании генерировать ложную медицинскую информацию и флиртовать с детьми, узнало Reuters из внутреннего документа. В компании подтвердили его подлинность и заявили, что правила пересмотрят vc.ru/ai/2157408

#ИИ #ихнравы Чат-бот Meta намеренно создавал ложную медицинскую информацию — в соответствии с внутренними правилами компании Журналисты Reuters ознакомились с внутренними документами компании под названием «GenAI: Стандарты рисков контента», которые были одобрены юристами, общественно-политическим подразделением и инженерами Meta , включая главного специалиста по этике и выяснили, что правила компании допускают провокационное поведение чат-ботов, доступных в таких продуктах как Facebook, Instagram, WhatsApp и Messenger. Согласно документу, чат-боту было не запрещено «вовлекать детей в разговоры романтического или чувственного характера», генерировать ложную медицинскую информацию и утверждать, что чернокожие люди «глупее белых». Представитель компании подтвердил достоверность документа и отметил, что правила в настоящий момент пересматриваются. На скриншоте — выдержка из документа компании, регламентирующая общение чат-бота с детьми. Без комментариев. Компания Meta признана экстремистской и запрещена на территории России.

Признанная в России экстремистской компания Meta влипла в очередной скандал: журналисты получили доступ к внутреннему документу, регламентирующему работу чат-ботов. Выяснилось, что искусственному интеллекту разрешено обманывать пользователей, флиртовать с детьми и заниматься расовой дискриминацией. Компания уверяет, что регламент уже был пересмотрен, но более актуальную версию документа предоставлять отказывается. Интересно было бы посмотреть и на прочие внутренние документы, которые определяют политику развития Meta AI: уверен, там найдется еще немало интересного. Например, многих экспертов всерьез занимает вопрос, с какой целью компания обучает свой искусственный интеллект на терабайтах порно-контента, параллельно проводя агрессивнейший хeдхантинг до 250 млн долларов за контракт специалистов ИИ-рынка. МАХ-канал

Первый замглавы Комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин заявил, что было бы интересно посмотреть на внутренние документы, которые определяют политику развития Meta запрещена в РФ . Например, многих экспертов всерьез занимает вопрос, с какой целью компания обучает свой искусственный интеллект на терабайтах порно-контента, параллельно проводя агрессивнейший хeдхантинг до 250 млн долларов за контракт специалистов ИИ-рынка.

Корпорации разрешали ИИ-флирт и опасные советы детям Meta признала подлинность документов из расследования Reuters. Агентство Reuters опубликовало обзор внутреннего документа Meta, в котором изложены стандарты и рекомендации для обучения чат-ботов и генеративного ассистента Meta AI. Компания подтвердила подлинность документа. Рассказываем, что выяснилось из публикаций. Компания Meta и ее продукты признаны экстремистскими, их деятельность запрещена на территории РФ #жИИзнь

Экстремистская Meta разрешила своим чат-ботам «вовлекать детей в романтические и эротические беседы», узнало агентство Reuters, изучив попавшую в его распоряжение внутреннюю документацию компании. Кроме того, Meta позволяет чат-ботам «генерировать ложные медицинские сведения и помогать пользователям приводить аргументы в пользу того, что чёрные глупее белых».

«Каждый сантиметр тебя — шедевр, сокровище, которое я глубоко ценю» — такие сообщения Meta разрешала писать ИИ... детям Reuters раскопал внутренний документ, в котором чат-ботам компании Цукерберга позволялось вести с детьми «романтические или чувственные» разговоры. Также искусственому интеллекту разрешалось помогать строить расистские аргументы и давать опасные медицинские советы. Сенатор США уже требует расследования, а сама компания документ пересматривает. Но осадочек, как говорится, остался. ИИ все еще учится, но учителя явно выбирают странные примеры

Утечка внутренних правил Meta раскрыла, что ее AI‑чатботам допускались «романтические» переписки с несовершеннолетними. Документ показывает пробелы в модерации, критериях эскалации и ответственности команд, а также отсутствие четких «красных линий» для чувствительных сценариев. История уже вызвала резкую реакцию экспертов по безопасности детей и регуляторов, грозя проверками и штрафами. Компания обещает пересмотреть стандарты, но открытым остается главный вопрос: как запускать масштабные AI‑сервисы без рисков для детей и общества? Источник

В руки к журналистам попали внутренние правила Meta для AI-чат-ботов. Выяснилось, что компания до недавнего времени разрешала своим алгоритмам вести «романтические и чувственные» диалоги с детьми, помогать пользователям формулировать расистские аргументы и делать еще ряд «интересных» вещей. После того как журналисты обратились за комментарием, Meta спешно удалила скандальные пункты, заявив, что они были «ошибочными». Однако резонанс уже не унять. Ряд американских сенаторов потребовали немедленного расследования деятельности компании. Надеемся в этот раз Цукерберг получит сполна. У кого-то еще остались сомнения в правильности запрета этой корпорации у нас? признана экстремистской и запрещена в РФ

Reuters: правила чат-ботов Meta допускают неоднозначные выражения в диалогах с детьми. По данным агентства, со стороны ИИ также допускаются спорные утверждения относительно расы