Губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект об ИИ SB 1047

Губернатор Калифорнии ветировал закон штата SB 1047, который был посвящен безопасности AI и вокруг которого много месяцев шли дискуссии. Закон требовал от разработчиков больших AI моделей проявлять "разумную осторожность", чтобы их технологии не представляли собой "необоснованный риск причинения или существенного содействия причинению критического вреда". Под таким ущербом понимаются кибератаки, которые наносят ущерб на сумму не менее 500 миллионов долларов или приводят к массовым жертвам. Разработчики также должны были убедиться, что их ИИ может быть отключен человеком, если он начнет вести себя опасно. Против закона выступали Google, Meta, Microsoft и OpenAI, к которым присоединились также более мелкие компании. Основные возражения касались того, что формулировки закона носят расплывчатый характер, при этом запрещая разработчикам выпускать модели, если существует "необоснованный риск". Неопределенность формулировок оставляла большое поле для толкований и фактически позволяла осложнить работу компаний, пока с вопросом не разберутся в суде, например. Помимо того, что закон касался бы деятельности любой крупной компании в области AI — они все расположены в Калифорнии, — он бы фактически относился и к деятельности тех компаний, которые просто ведут деятельность в штате.

Губернатор Калифорнии ветировал закон штата SB 1047, который был посвящен безопасности AI и вокруг которого много месяцев шли дискуссии. Закон требовал от разработчиков больших AI моделей проявлять "разумную осторожность", чтобы их технологии не представляли собой "необоснованный риск причинения или существенного содействия причинению критического вреда". Под таким ущербом понимаются кибератаки, которые наносят ущерб на сумму не менее 500 миллионов долларов или приводят к массовым жертвам. Разработчики также должны были убедиться, что их ИИ может быть отключен человеком, если он начнет вести себя опасно. Против закона выступали Google, Meta, Microsoft и OpenAI, к которым присоединились также более мелкие компании. Основные возражения касались того, что формулировки закона носят расплывчатый характер, при этом запрещая разработчикам выпускать модели, если существует "необоснованный риск". Неопределенность формулировок оставляла большое поле для толкований и фактически позволяла осложнить работу компаний, пока с вопросом не разберутся в суде, например. Помимо того, что закон касался бы деятельности любой крупной компании в области AI — они все расположены в Калифорнии, — он бы фактически относился и к деятельности тех компаний, которые просто ведут деятельность в штате.

Губернатор Калифорнии наложил вето на законопроект об ИИ Губернатор Калифорнии Гэвин Ньюсом из Демократической партии заявил, что наложил вето на законопроект об обязательной проверке систем на основе искусственного интеллекта ИИ на безопасность.

ХАЙТЕК ГУБЕРНАТОР КАЛИФОРНИИ НАЛОЖИЛ ВЕТО НА ЗАКОНОПРОЕКТ ОБ ИИ Губернатор Калифорнии Гэвин Ньюсом из Демократической партии заявил, что наложил вето на законопроект об обязательной проверке систем на основе искусственного интеллекта ИИ на безопасность. В случае принятия, законопроект SB 1047 мог бы стать одним из первых всеобъемлющих законодательных актов в сфере ИИ в США. Закон обязывал бы крупные компании, включая Google и OpenAI, в обязательном порядке проверять на безопасность их ИИ-системы, и даже обеспечить возможность их полного отключения на случай непредвиденных обстоятельств. OpenAI выступила против законопроекта, а владелец cоцсети X Илон Маск его поддержал. "Я возвращаю законопроект сената 1047 без своей подписи… Я не согласен, что для обеспечения общественной безопасности мы должны согласиться на решение, которое не основано на эмпирическом анализе траектории систем и возможностей ИИ. В конечном счете, любая структура для эффективного регулирования ИИ должна идти в ногу с самой технологией", - написал Ньюсом в письме, адресованном сенату штата Калифорния. Он отметил, что 32 из 50 лидирующих компании в мире в сфере ИИ расположены в Калифорнии. Вместе с тем губернатор заявил о подписании закона, который расширяет полномочия департамента Калифорнии по чрезвычайным ситуациям до ИИ-угроз критической инфраструктуре штата. ФОТО: iStock.com / gorodenkoff #аврорамедиа_хайтек Telegram-экосистема АВРОРА МЕДИА МЕДИА НОВОСТИ РЕГИОН ЛАЙФ СПОРТ ГЕРЛЗ ХАЙТЕК ПЕРСОНЫ ИНСАЙД КРИМИНАЛ МОЛОДОСТЬ LIVE АВРОРА МЕДИА YOUTUBE RUTUBE

Забирай эксклюзивное предложение для пользователей Tek.fm от Газпромбанка 🔥Нажми на меня

Губернатор Калифорнии ветировал закон штата SB 1047, который был посвящен безопасности AI и вокруг которого много месяцев шли дискуссии. Закон требовал от разработчиков больших AI моделей проявлять "разумную осторожность", чтобы их технологии не представляли собой "необоснованный риск причинения или существенного содействия причинению критического вреда". Под таким ущербом понимаются кибератаки, которые наносят ущерб на сумму не менее 500 миллионов долларов или приводят к массовым жертвам. Разработчики также должны были убедиться, что их ИИ может быть отключен человеком, если он начнет вести себя опасно. Против закона выступали Google, Meta, Microsoft и OpenAI, к которым присоединились также более мелкие компании. Основные возражения касались того, что формулировки закона носят расплывчатый характер, при этом запрещая разработчикам выпускать модели, если существует "необоснованный риск". Неопределенность формулировок оставляла большое поле для толкований и фактически позволяла осложнить работу компаний, пока с вопросом не разберутся в суде, например. Помимо того, что закон касался бы деятельности любой крупной компании в области AI — они все расположены в Калифорнии, — он бы фактически относился и к деятельности тех компаний, которые просто ведут деятельность в штате.

Губернатор Калифорнии наложил вето на SB-1047 В последний момент Гэвин Ньюсом всё-таки решил воспользоваться своим правом вето. Я писал про этот законопроект и разбирал что с ним не так несколько раз. Изначально там был полнейший бред, который мог убить калифорнийский опенсорс на корню. Его частично поправили, но даже в последних редакциях в законопроекте была куча расплывчатых определений, плюс он делал разработчиков изначальной модели ответственными за действия большинства файнтюнов. Губернатор обещает внести свой собственный законопроект уже в следующем году. Надеюсь он будет более адекватным, по крайней мере эта часть текста вето даёт надежду: Хотя законопроект SB 1047 создан с благими намерениями, он не учитывает, используется ли система ИИ в высокорискованных средах, связана ли она с принятием критически важных решений или обработкой конфиденциальных данных. Вместо этого законопроект предъявляет строгие требования даже к самым базовым функциям — если это делает крупная система. Я не считаю, что это наилучший подход к защите общественности от реальных угроз, создаваемых этой технологией. Регулирование конкретных применений ИИ вместо использования странных критериев с произвольными лимитами по компьюту звучит как гораздо более правильный подход. Ждём следующего законопроекта и надеемся на отсутствие там угрожающей опенсорсу шизы. Текст вето