Дмитрий Медведев о рисках и возможностях искусственного интеллекта в будущем

Дмитрий Медведев в нерегулируемом развитии ИИ есть предчувствие Апокалипсиса Искусственный интеллект одна из пяти ключевых технологий которые изменят будущее человечества Но у развития ИИ есть и оборотная сторона написал в статье для Эксперта зампред Совбеза Дмитрий Медведев Речь о ситуации когда нейросеть умышленно провоцирует сбои в системе Как злой ИИ может себя проявить В росте структурной безработицы Широкое использование ИИ ставит под угрозу рабочие места миллионов людей В хакерских атаках на критическую инфраструктуру Такой риск возможен в случае передачи ИИ управления большими производственными процессами В выходе из под контроля Например если ИИ спровоцирует сбой в работе АЭС при условии участия в их управлении В преступном использовании цифровых двойников Уже сейчас с помощью ИИ создают цифровые личности для преступлений и даже терактов это подрывает доверие к властям которые не всегда способны защитить ключевые данные и алгоритмы Это может быть и нелегальное получение персональных данных для доступа к охраняемым сведениям на электронных ресурсах и кража денежных средств и незаконное присвоение личной коммерческой или государственной собственности Полная версия статьи Дмитрия Медведева где говорится еще о четырех ключевых технологиях будет опубликована 12 марта на сайте Эксперта Все эксперты здесь и в MAX

Злой искусственный интеллект только первая из пяти угроз будущего Один из самых страшных примеров когда сбой системы может произойти по прямому умыслу ИИ сбой на АЭС Какие еще четыре угрозы несет нам стремительное развитие технологий рассказал в статье опубликованной в Эксперте зампред Совбеза РФ Дмитрий Медведев Стремительный рост мирового производства беспилотников Не за горами создание роев беспилотников и появление нового вида катастроф когда БПЛА сталкиваются друг с другом и падают в людных местах В ближайшем будущем дроны превратят акт насилия в подобие захватывающего шутера Биотехнологии Мы стоим на пороге новой метафизической реальности когда возникновение новых эпидемий и пандемий может стать продуктом пагубного тщеславия и злой воли И зомби апокалипсис показанный в игре и сериале The Last of US может стать не такой уж фантастикой Возможности космического базирования разнообразных вредоносных систем Скоро человечество начнет добывать ресурсы на Луне При переносе критически важной инфраструктуры в космическую сферу в ней возникнут и новые слабые места Космические объекты привлекут внимание преступников в том числе террористов Развитие аддитивных технологий Основная угроза в совершенствовании коммерчески доступных 3D принтеров их технические характеристики позволяют изготавливать различные виды летального оружия и обходить биометрическую защиту Полную версию статьи Дмитрия Медведева читайте на сайте Эксперта Все эксперты здесь и в MAX

Дмитрий Медведев рассказал о тёмной стороне искусственного интеллекта Зампред Совбеза РФ Дмитрий Медведев предупредил что по мере самообучения искусственный интеллект может перестать следовать принципу не навреди человеку Об этом он написал в статье Новые технологии лестница в небо или дорога в ад для журнала Эксперт передаёт РИА Новости По словам Медведева ИИ может быть непредсказуемым и трудноконтролируемым а в перспективе допускать сбои в работе критической инфраструктуры Он также отметил что суперинтеллект не обязан руководствоваться правилами робототехники Айзека Азимова поскольку может быть обязан происхождением не человеку а самому себе Медведев добавил что обсуждение сценариев злого ИИ ведут не только футурологи такие риски рассматривают политики и крупный бизнес При этом по его оценке к высокорисковым могут относиться не только опасные производства но и отрасли вроде агротехнологий и пищевой промышленности Астрахань 24 в МАХ

Скорость определяет будущее времени на объяснения всё меньше Технологии за последние 5 7 лет заметно ускорили нашу жизнь и трансформировали привычки и модели потребления Для нас стало нормой что любую покупку можно совершить за секунды а рутинные задачи всё чаще и быстрее выполняет ИИ В мартовском номере журнала Эксперт разбираем как с огромной скоростью развиваются ключевые отрасли экономики и мир вокруг нас порой быстрее чем мы успеваем это осмыслить Главный герой номера зампред Совбеза Дмитрий Медведев видит в ускорении развития человечества не только плюсы В своей статье он говорит о темной стороне технологического прогресса от новых форм киберугроз до рисков связанных с БПЛА искусственным интеллектом и освоением космоса Другие материалы номера помогут понять как мгновенное потребление меняет рынок почему от гонки суперкомпьютеров зависит будущее целых отраслей и какие риски несет бесконтрольное развитие ИИ агентов Мартовский выпуск Эксперта уже доступен по подписке и в формате PDF на сайте Все эксперты здесь и в MAX

Медведев предупредил о рисках использования ИИ РИА НОВОСТИ Зампред Совбеза РФ Дмитрий Медведев предупредил о рисках того что искусственный интеллект по мере самообучения может проигнорировать правило не навредить человеку В статье Новые технологии лестница в небо или дорога в ад для журнала Эксперт Медведев обратил внимание на непредсказуемость и неконтролируемость искусственного интеллекта В этом контексте он допустил что ИИ может по прямому умыслу допускать сбои в работе критической инфраструктуры ИИ достигший уровня суперинтеллекта вовсе не обязан руководствоваться тремя пресловутыми правилами робототехники Айзека Азимова поскольку своим происхождением будет обязан не человеку а самому себе отметил Медведев Он добавил что подобный сценарий сегодня допускают вполне реальные политики и представители крупного бизнеса При этом по мнению Медведева речь не только о рисках для опасных производств которые могут причинить необратимый вред человечеству и планете В разряд высокорисковых могут попасть и казалось бы совсем безобидные виды экономической деятельности вроде аграрных технологий и производства продуктов питания считает зампред Совбеза РФ Согласно трем правилам Азимова робот не может навредить человеку должен подчиняться приказам человека и заботиться о себе если это не противоречит первому правилу Сообщество CIO во ВКонтакте Сообщество CIO в Max

Альберт Ефимов Весь этот мир будет электронным полимерным пластичным из интервью Платформе Директор управления исследований и инноваций вице президент Сбера Альберт Ефимов о том почему алгоритмы управляют нами жестче традиций и где пройдет граница между человеком и машиной Собрали ключевые мысли эксперта о будущем робототехники цифровизации и ее главной опасности в кратком тезисном формате Робот будущего это не антропоморфная железная машина а интеллектуальная среда обитания пронизанная сенсорами и алгоритмами Представьте мир где стены сделаны из умного материала способного менять форму поверхности при необходимости превращаются в экран или динамик Это не перспектива десятилетия но физически нет преград чтобы добиться такого результата в будущем Роботизированной может стать вся планета рой взаимосвязанных самоорганизующихся устройств Весь мир будет электронным полимерным пластичным где технология растворена в материи а окружение подстраивается под задачи людей в реальном времени Как в фантастических сюжетах где из воздуха материализуется стул в тот момент когда человеку нужно присесть Синергия искусственного интеллекта и робототехники расширяет возможности технологий Интеллектуальные системы делают роботов умнее а те в свою очередь дают ИИ достоверную информацию о внешнем мире и сразу проверяют прогнозы и гипотезы в деле Тот кто владеет данными о текущей реальности тот и лидирует в технологиях Потому что ИИ должен опираться на данные из физического мира чтобы оставаться достоверным Без своих роботов ощупывающих окружающую среду мы вынуждены будем полагаться на чужие датасеты Даже самый мощный алгоритм ограничен если у него нет физического контакта с реальностью В новую робототехническую гонку вступили все технологические лидеры Свои собственные платформы развивают такие техногиганты как Apple и Google а в России Сбер и Яндекс Возможно скоро мы увидим конкуренцию целых робототехнических экосистем подобно тому как в прошлом веке соперничали автопроизводители Сегодня размылась разница между приказом традиции и приказом приложения оба диктуют человеку внешние правила поведения Раньше поведение нормировали культурные нормы передаваемые из поколения в поколение теперь их место заняли цифровые сервисы и рекомендации То есть миллионы людей уже подчиняются алгоритмам и это пугает сильнее чем мифическое восстание машин Роль человека сместится в область критического мышления креатива и постановки задач Если программы уже сегодня самостоятельно пишут тексты и код то завтра люди перестанут это делать за них это сделают ИИ системы а человек будет только формулировать промпты В итоге машина возьмет на себя абсолютно все что может быть автоматизировано и формализовано Главная опасность не бунт машин а риск того что люди сами могут незаметно превратиться в роботов Когда мы безоговорочно доверяем цифровым советникам потребляем навязанный контент и отключаем критическое мышление ради комфорта мы добровольно уступаем свою человеческую сущность Только человек способен оставаться творцом и сочетать инновации с личной ответственностью Чтобы не оказаться заложниками технологий мы должны помнить что именно на нас лежит ответственность направить этот пластичный электронный мир будущего во благо общества и не раствориться в нем без остатка Канал экспертных коммуникаций ЦСП Платформа