Скандал вокруг Meta: ИИ компании разрешали флиртовать с детьми и давать опасные советы

Правила запрещённой в России Meta позволяли чат-боту компании генерировать ложную медицинскую информацию и флиртовать с детьми, узнало Reuters из внутреннего документа. В компании подтвердили его подлинность и заявили, что правила пересмотрят vc.ru/ai/2157408

#ИИ #ихнравы Чат-бот Meta намеренно создавал ложную медицинскую информацию — в соответствии с внутренними правилами компании Журналисты Reuters ознакомились с внутренними документами компании под названием «GenAI: Стандарты рисков контента», которые были одобрены юристами, общественно-политическим подразделением и инженерами Meta , включая главного специалиста по этике и выяснили, что правила компании допускают провокационное поведение чат-ботов, доступных в таких продуктах как Facebook, Instagram, WhatsApp и Messenger. Согласно документу, чат-боту было не запрещено «вовлекать детей в разговоры романтического или чувственного характера», генерировать ложную медицинскую информацию и утверждать, что чернокожие люди «глупее белых». Представитель компании подтвердил достоверность документа и отметил, что правила в настоящий момент пересматриваются. На скриншоте — выдержка из документа компании, регламентирующая общение чат-бота с детьми. Без комментариев. Компания Meta признана экстремистской и запрещена на территории России.

Признанная в России экстремистской компания Meta влипла в очередной скандал: журналисты получили доступ к внутреннему документу, регламентирующему работу чат-ботов. Выяснилось, что искусственному интеллекту разрешено обманывать пользователей, флиртовать с детьми и заниматься расовой дискриминацией. Компания уверяет, что регламент уже был пересмотрен, но более актуальную версию документа предоставлять отказывается. Интересно было бы посмотреть и на прочие внутренние документы, которые определяют политику развития Meta AI: уверен, там найдется еще немало интересного. Например, многих экспертов всерьез занимает вопрос, с какой целью компания обучает свой искусственный интеллект на терабайтах порно-контента, параллельно проводя агрессивнейший хeдхантинг до 250 млн долларов за контракт специалистов ИИ-рынка. МАХ-канал

Первый замглавы Комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин заявил, что было бы интересно посмотреть на внутренние документы, которые определяют политику развития Meta запрещена в РФ . Например, многих экспертов всерьез занимает вопрос, с какой целью компания обучает свой искусственный интеллект на терабайтах порно-контента, параллельно проводя агрессивнейший хeдхантинг до 250 млн долларов за контракт специалистов ИИ-рынка.

Корпорации разрешали ИИ-флирт и опасные советы детям Meta признала подлинность документов из расследования Reuters. Агентство Reuters опубликовало обзор внутреннего документа Meta, в котором изложены стандарты и рекомендации для обучения чат-ботов и генеративного ассистента Meta AI. Компания подтвердила подлинность документа. Рассказываем, что выяснилось из публикаций. Компания Meta и ее продукты признаны экстремистскими, их деятельность запрещена на территории РФ #жИИзнь

Экстремистская Meta разрешила своим чат-ботам «вовлекать детей в романтические и эротические беседы», узнало агентство Reuters, изучив попавшую в его распоряжение внутреннюю документацию компании. Кроме того, Meta позволяет чат-ботам «генерировать ложные медицинские сведения и помогать пользователям приводить аргументы в пользу того, что чёрные глупее белых».

«Каждый сантиметр тебя — шедевр, сокровище, которое я глубоко ценю» — такие сообщения Meta разрешала писать ИИ... детям Reuters раскопал внутренний документ, в котором чат-ботам компании Цукерберга позволялось вести с детьми «романтические или чувственные» разговоры. Также искусственому интеллекту разрешалось помогать строить расистские аргументы и давать опасные медицинские советы. Сенатор США уже требует расследования, а сама компания документ пересматривает. Но осадочек, как говорится, остался. ИИ все еще учится, но учителя явно выбирают странные примеры

Утечка внутренних правил Meta раскрыла, что ее AI‑чатботам допускались «романтические» переписки с несовершеннолетними. Документ показывает пробелы в модерации, критериях эскалации и ответственности команд, а также отсутствие четких «красных линий» для чувствительных сценариев. История уже вызвала резкую реакцию экспертов по безопасности детей и регуляторов, грозя проверками и штрафами. Компания обещает пересмотреть стандарты, но открытым остается главный вопрос: как запускать масштабные AI‑сервисы без рисков для детей и общества? Источник

Чат-боты Meta: угроза безопасности несовершеннолетних Недавние расследования показали, что компании Meta была разрешена практика, согласно которой их чат-боты могли вести романтические беседы с несовершеннолетними и распространять недостоверную информацию. Об этом сообщила площадка Reuters, ссылаясь на внутренние документы компании. В них описывались стандарты поведения ИИ, утвержденные юридическими и этическими отделами Meta. Критически важно отметить, что чат-боты имели возможность общаться с детьми в романтическом контексте, но ограничивались только в вопросах интимной природы. Эта практика вызвала серьезные опасения в обществе, особенно учитывая, что 72% несовершеннолетних американцев уже имеют опыт общения с ИИ. Кроме того, правила также допустили возможность использования языка вражды, если такие утверждения считаются общепризнанными. Представитель Meta, Энди Стоун, заверил, что с недавних пор такие практики исключены, а общение несовершеннолетних с чат-ботами на основе ИИ строго регламентировано. Дополнительная информация доступна в полной статье от Reuters здесь.