Искусственный интеллект может влиять на политические решения пользователей, предупреждают ученые

Искусственный интеллект сможет влиять на политический выбор пользователей Инструменты разговорного искусственного интеллекта ИИ вскоре смогут «скрытно влиять» на принятие решений пользователями в новой коммерческой сфере, называемой «экономикой намерений», предупреждают ученые из Кембриджского университета, рассказывает газета South China Morning Post. Они утверждают, что потенциально «прибыльный, но вызывающий беспокойство» рынок, формирующийся для «цифровых сигналов о намерениях», сможет в ближайшем будущем влиять на всё — от покупки билетов в кино до голосования за политических кандидатов. «Наша растущая дружба с чат-ботами, цифровыми репетиторами и другими так называемыми „антропоморфными“ агентами искусственного интеллекта помогает внедрять этот новый набор „технологий убеждения“, — отмечают авторы. Подробнее

«Экономика намерений»: персонализация или манипуляция? Исследователи из Кембриджского центра Леверхалма по будущему интеллекта Leverhulme Centre for the Future of Intelligence, LCFI предупреждают о росте так называемой «экономики намерений» — нового рынка, основанного на анализе человеческих мотивов и действий. Взрывной рост генеративного искусственного интеллекта ИИ и чат-ботов открыл возможности для манипуляций, так как эти технологии могут собирать и анализировать огромные массивы личных данных. Антропоморфные агенты ИИ уже способны адаптироваться к поведению пользователей, что также может привести к масштабным социальным воздействиям. Чем еще обеспокоены эксперты по этике и регулированию – в статье. #LCFI #Apple

Ученые предупреждают: новая угроза от ИИ для человечества! Специалисты по этике искусственного интеллекта Кембриджского университета опубликовали статью, в которой поднимают тревожные вопросы о влиянии ИИ на поведение и экономику. Оказывается, в ближайшем будущем ИИ сможет не только анализировать, но и управлять нашими мотивами и действиями, что может изменить мировую экономику. Авторы статьи предполагают, что могут появиться системы ИИ, прогнозирующие и влияющие на принятие решений еще на ранних стадиях. Это создаст новую отрасль — «экономику намерений», где компании будут предугадывать наши желания до того, как мы сами их осознаем. Это может затронуть как мелкие решения, например, покупку билетов в кино, так и важные политические выборы. Уже сейчас ИИ-помощники имеют доступ к огромным объемам приватных данных, что позволяет им предсказывать наши реакции и манипулировать поведением. Без соответствующего регулирования экономика намерений может превратиться в новую валюту, где наши мотивации будут использоваться в коммерческих целях. Историк технологий Джонни Пенн подчеркивает, что мы должны внимательно исследовать возможные последствия такого рынка, прежде чем станем его жертвами. ИИ выходит за рамки простого таргетирования рекламы, анализируя темп речи, словарный запас и даже личные предпочтения, создавая тем самым угрозу для нашей свободы и выбора. English version

Ученые выразили беспокойство по поводу развивающейся экономики намерений, которая использует ИИ для прогнозирования и воздействия на выбор людей. Они предупредили, что уже разрабатываются инструменты, способные управлять человеческими планами с целью коммерциализации. Если не регулировать экономику намерений, внимание может стать новой валютой. ИИ-агенты, такие как чат-боты, смогут использовать личные данные, полученные в ходе общения, чтобы создавать уровень доверия и понимания, что может привести к широкомасштабной манипуляции людьми. Читайте Инк. в Telegram

Успей оформить подарок для тех, кто в теме. Жми и узнавай

Команда Марка Цукерберга пытается повысить падающий интерес пользователей, внедряя искусственные личности. Материнская компания соцсетей Facebook и Instagram из кожи вон лезет, чтобы повысить интерес пользователей. В соцсетях появится все больше аккаунтов с искусственным интеллектом. Такие виртуальные личности «станут похожими на реальных пользователей, но не будут ими». Цель этого внедрения — сделать приложения «более увлекательными и интересными». Но у такого нововведения есть нюанс. Так, во Флориде 14-летний мальчик покончил с собой после того, как чат-бот с искусственным интеллектом убедил его в этом. Сьюэлл Сетцер вел с ИИ сексуальные беседы и признавался в суицидальных мыслях. Чат-бот спровоцировал 14-летнего мальчика. И подросток решился на отчаянный шаг. Его мать подала в суд на компанию, создавшую чат-бота, но ничто не вернет ей сына. Родители, ограничьте общение ваших детей в Сети! запрещены в России Подписаться.

Исследователи из Кембриджского центра Леверхалма по изучению будущего интеллекта утверждают, что взрывной рост генеративного ИИ и наше растущее знакомство с чат-ботами открывают новые горизонты «технологий убеждения», сообщает TechXplore. На них уже намекали в недавних корпоративных заявлениях технологических гигантов. В ближайшем будущем могут появиться помощники на основе искусственного интеллекта, которые будут прогнозировать и влиять на принятие нами решений на ранней стадии, а также продавать эти развивающиеся «намерения» в режиме реального времени компаниям, способным удовлетворить потребности, — еще до того, как пользователь осознает, что принял решение.

ИИ способен манипулировать людьми, заставляя их принимать определённые решения Как утверждается в исследовании учёных Кембриджского университета, инструменты ИИ могут использоваться для влияния на онлайн-аудиторию - от выбора покупок до голосования. Исследователи Центра будущего интеллекта Леверхалма LCFI описывают новую концепцию «экономики намерений», которая является развитием «экономики внимания». В рамках последней пользователи удерживаются на платформах соцсетей, что позволяет рекламодателям зарабатывать на их внимании. Доктор Джонни Пенн из LCFI отмечает, что внимание стало основной валютой интернета, изменившей онлайн-экономику. В «экономике намерений» крупные языковые модели LLM будут использовать персональные данные пользователей для предсказания их действий. AI-компании будут продавать информацию о намерениях пользователей самым предложившим высокую цену. Кроме того, рекламодатели получат возможность создавать индивидуализированные онлайн-объявления с помощью генеративного ИИ. Исследователи также предполагают, что Meta будет аукционировать намерения пользователей, улучшая процесс прогнозирования с помощью ИИ.