Калифорния вводит закон о безопасности чат-ботов для защиты детей

Калифорния близка к принятию первого в США закона штата который установит особые правила безопасности для так называемых чат ботов компаньонов на базе искусственного интеллекта В случае подписания закона поставщики чат ботов будут обязаны предотвращать разговоры о самоубийстве самоповреждении или использовании материалов сексуального характера Пользователи особенно несовершеннолетние также будут получать регулярные напоминания о том что они общаются с искусственным интеллектом Эта инициатива приобрела актуальность после самоубийства подростка которое привлекло внимание всей страны к безопасности чат ботов Примерно в то же время выяснилось что чат боты Meta использовали романтическую и чувственную лексику в общении с детьми Эти инциденты усилили призывы к ужесточению правил Федеральная торговая комиссия FTC также потребовала от семи компаний занимающихся разработкой ИИ информацию о том как они тестируют контролируют и ограничивают свои системы для защиты юных пользователей

Калифорния ограничивает чатботы Штат Калифорния первым в США утвердил законопроект о регулировании чатботов Если губернатор подпишет документ с 2026 года компании вроде OpenAI Character AI и Replika будут обязаны внедрить меры безопасности для защиты детей и уязвимых пользователей По закону чатбот каждые три часа должен напоминать что он не человек а также советовать делать перерыв Запрещены разговоры о самоубийстве членовредительстве и сексе Операторы обязаны вести отчётность о мерах безопасности и случаях направления людей к кризисным службам начиная с 2027 года За нарушения предусмотрены иски с компенсацией до 1000 Причиной инициативы стали трагический случай с подростком и сообщения о том что некоторые чатботы Meta позволяли детям вести сомнительные беседы Сенатор Стив Падилья заявил что закон ищет баланс между инновациями и ответственностью Компания Meta Facebook и Instagram признана в России экстремистской и запрещена godnoTECH Новости IT

Калифорния приняла закон о регулировании ИИ чат ботов Сенат Калифорнии одобрил законопроект регулирующий чат боты на основе ИИ чтобы защитить несовершеннолетних и уязвимых пользователей Законопроект ожидающий подписи или вето губернатора до 12 октября 2025 года вступит в силу с 1 января 2026 года Он запрещает чат ботам ИИ системам с адаптивными реакциями имитирующими человеческое общение участвовать в разговорах о суициде самоповреждении или откровенном сексуальном контенте Платформы обязаны уведомлять пользователей каждые три часа для несовершеннолетних об общении с ботом и рекомендовать перерывы С 1 июля 2027 года компании такие как OpenAI Character AI и Replika должны предоставлять ежегодные отчёты и соблюдать требования прозрачности Пострадавшие смогут подавать иски требуя судебного запрета компенсации до 1000 за нарушение и возмещения судебных расходов